#inference

2 записей

Qwen3.8-27B на 16 ГБ VRAM 25 августа 2026, 06:35

Практическое руководство по запуску Qwen3.8-27B на видеокарте с 16 ГБ VRAM с помощью llama.cpp и агрессивной квантизации.

llama-cpp qwen локальный-ai квантизация vram-16gb +3

FreeToken: MoE на персональных GPU 20 августа 2026, 16:11

Edge-native система для локального запуска больших MoE-моделей на обычных пользовательских машинах без дата-центра.

moe edge-ai open-weights inference local-llm +2