LFM2.5: Семья моделей для edge AI

источник ↗ ·

Анонс LFM2.5-1.2B — новой семьи оптимизированных для устройств моделей с предобучением на 28T токенов, поддержкой текста, японского, vision-language и audio-language для агентного ИИ на edge.

AI Summary

🚀 Общий обзор: Анонс семейства LFM2.5-1.2B — самых мощных моделей для edge AI на устройствах (мобайлы, IoT, авто). Улучшена архитектура LFM2: предобучение расширено с 10T до 28T токенов, усилен пост-тренинг с RL. Включает Base, Instruct, Japanese, Vision-Language (1.6B) и Audio-Language (1.5B) модели. Оптимизированы для инструкций, приватности, скорости; все open-weight на Hugging Face и LEAP. Партнёры: AMD, Nexa AI для NPU.

Ключевые тезисы: • Text модели: LFM2.5-1.2B-Base для fine-tuning; Instruct — SFT + RL, лидер в knowledge/math/tool use, быстрая инференс на CPU. • Japanese: LFM2.5-1.2B-JP — SOTA для японского на 1.2B, с нюансами культуры/языка. • Vision-Language (1.6B): Multi-image, multilingual (арабский, китайский, японский и др.), сильное следование инструкциям. • Audio-Language (1.5B): Native обработка speech/text, 8x быстрее предшественника (detokenizer на CPU), QAT INT4, низкая latency без пайплайнов. • Бенчмарки: Топ в 1B-классе по скорости/качеству; аудио-демо с мужским/женским голосом.

Мои мысли