Пошаговое улучшение CUDA-программы от 6,8 с до 23 мс с помощью CCCL, Compute Sanitizer, Nsight Systems, CUB, pooled и pinned памяти, а также CUDA-streams.
источник ↗#cuda
5 записейПрактическое руководство по запуску Qwen3.8-27B на видеокарте с 16 ГБ VRAM с помощью llama.cpp и агрессивной квантизации.
источник ↗Интерактивный гайд по выбору бэкенда, модели, квантизации и флагов llama.cpp под ограничения VRAM, RAM и скорости памяти.
источник ↗Самодостаточный inference-движок, заточенный под DeepSeek V4 Flash/PRO, с поддержкой Metal, CUDA, ROCm, SSD-streaming, распределённого запуска и встроенного агента.
источник ↗Инструмент для создания M4B-аудиокниг из EPUB-файлов с помощью нейросети Kokoro-82M.
источник ↗