gigastt — on-device русский ASR
Встраиваемый on-device движок распознавания русской речи: один Rust-бinary, GigaAM v3 INT8 через ONNX Runtime, без облака и ключей.
privacy
Эта заметка участвует в semantic memory.
AI Summary
- Короткий обзор сути: gigastt — это полностью локальный, встраиваемый ASR-сервер и библиотека для русского языка на базе модели GigaAM v3 (rnnt, INT8, ~225 MB). Один статический бинарь, C-ABI FFI, WebSocket-потоковые частичные результаты, REST, OpenAI-совместимый эндпоинт; работает на CPU, CoreML, CUDA, NNAPI, ANE. 🔑 Ключевые факты: WER clean 3.55 %, far-field 4.08 %, phone 18.50 %, YouTube 10.91 %; RTF ~0.10; RAM ~46–66 MB resident; cold-start 0.94 s; поддержка пунктуации, ITN, диаризации (WeSpeaker); streaming TTFP p50 0.82–1.65 s, но WER_stream на 11–15 п.п. хуже batch. 📌 Важные детали: чистое чтение — статистическая ничья с Vosk 0.54; русскоязычный специалист (опционально ru/en/kk/ky/uz); RAM-показатели ps RSS завышены из-за memory-mapped модели; streaming — буферизованный над offline RNN-T, а не native streaming-модель; Raspberry Pi / edge — метрики пока не сняты. 💡 Вывод и значение: для максимальной точности файлов используйте REST batch; для live — WebSocket с пониманием роста WER; установка через brew / cargo / docker; модель скачивается один раз (~225 MB INT8); документация: docs/benchmarks.md, docs/api.md, docs/quickstarts.md.