#локальный-инференс

Open-source TTS-модель OmniVoice от k2-fsa для локального синтеза речи с zero-shot клонированием голоса на 600+ языках без облачных API.

Инференс-движок TensorFold ускоряет генерацию на Apple Silicon, предлагая несколько токенов параллельно и проверяя их за один проход целевой модели.

Интерактивный гайд по выбору бэкенда, модели, квантизации и флагов llama.cpp под ограничения VRAM, RAM и скорости памяти.