Самодостаточный inference-движок, заточенный под DeepSeek V4 Flash/PRO, с поддержкой Metal, CUDA, ROCm, SSD-streaming, распределённого запуска и встроенного агента.
источник ↗#distributed-inference
2 записейТестирование кластера из четырёх Mac Studio M3 Ultra с 1,5 ТБ Unified Memory и ПО Exo 1.0 для запуска гигантских AI-моделей через RDMA.
источник ↗