Инференс-движок TensorFold ускоряет генерацию на Apple Silicon, предлагая несколько токенов параллельно и проверяя их за один проход целевой модели.
источник ↗#mlx
5 записей8B-A1B MoE-модель размером 6.3 ГБ, оптимизированная для 8–16 ГБ Mac и работы с инструментами Osaurus.
источник ↗Полностью оффлайн-платформа на Swift, которая хранит агентов, память, инструменты и крипто-идентичность на Mac, подключая любые модели (локальные MLX и облачные) через единый интерфейс.
источник ↗Local Studio — это all-in-one приложение, которое объединяет модели, рантайм и железо для запуска ИИ на домашнем устройстве без облачных провайдеров.
источник ↗Полный пайплайн обучения миниатюрной языковой модели на истории iMessage, полностью на Mac без предобучения.
источник ↗