Whistle — компактная 16.9 MB модель распознавания речи на CPU, работающая в одном бинарном движке с Needle и поддерживающая семь языков.
источник ↗#cpu-inference
3 записейПолная инженерная заметка о реализации inference 2.78-триллионной модели Kimi K3 в чистом C99 на одном CPU без GPU, BLAS и фреймворков, с измеренным минимумом 8.24 ГБ RAM и byte-identical выводом на всех бюджетах от 8 до 224 ГБ.
источник ↗Открытая многоязычная TTS-модель с 0.1B параметров для реального времени на CPU от MOSI.AI и OpenMOSS.
источник ↗