#metal

2 записей

Калькулятор запуска LLM на ПК 17 июля 2026, 17:55

Интерактивный гайд по выбору бэкенда, модели, квантизации и флагов llama.cpp под ограничения VRAM, RAM и скорости памяти.

llama-cpp llm локальный-инференс vrama moe +5

источник ↗

DwarfStar — локальный inference-движок DeepSeek V4 11 июля 2026, 17:28

Самодостаточный inference-движок, заточенный под DeepSeek V4 Flash/PRO, с поддержкой Metal, CUDA, ROCm, SSD-streaming, распределённого запуска и встроенного агента.

local-inference deepseek-v4 metal cuda ssd-streaming +4

источник ↗