#llm

Практическое руководство по созданию собственного AI-агента вместо использования универсальных решений вроде OpenClaw.

oLLM — легковесная Python-библиотека для инференса больших LLM на потребительских GPU с 8GB VRAM без квантизации, поддерживает 100k контекст и мультимодальные модели.