Vision-плагин, который даёт текстовым моделям DeepSeek и GLM возможность читать изображения напрямую в чате без сохранения файлов.
источник ↗#openai-compatible
5 записейВысокопроизводительный OpenAI-совместимый сервер для запуска LLM на Mac с Apple Silicon, построенный на MLX.
источник ↗Local Studio — это all-in-one приложение, которое объединяет модели, рантайм и железо для запуска ИИ на домашнем устройстве без облачных провайдеров.
источник ↗Много-пользовательская self-hosted платформа агентов с typed Python-ядром, которое можно встраивать в собственный стек.
источник ↗Atlas — LLM-движок на чистом Rust и CUDA без Python, с Docker-образом 2.5 ГБ, дающим до 3x ускорение инференса на DGX Spark.
источник ↗