33-миллиардная модель Nanbeige4.3-33B — лидер среди открытых моделей ~30B параметров по агентным задачам кодирования и совместной работы.
источник ↗#large-language-model
2 записейПолная инженерная заметка о реализации inference 2.78-триллионной модели Kimi K3 в чистом C99 на одном CPU без GPU, BLAS и фреймворков, с измеренным минимумом 8.24 ГБ RAM и byte-identical выводом на всех бюджетах от 8 до 224 ГБ.
источник ↗