Open Source Jev: Structured Decisions
Полноценная open-source реализация Jev, превращающая контекст в структурированные решения с помощью открытых языковых моделей.
privacy
Эта заметка участвует в semantic memory.
AI Summary
🚀 TL;DR: Jev — это инструмент, который позволяет использовать любые открытые LLM (Gemma, Qwen и др.) в качестве классификаторов, получая структурированные ответы в JSON без дообучения. 🔑 Ключевые факты: контекст (текст, чат, изображение) → несколько вопросов → модель оценивает вероятности ответов → код получает готовые решения. 📌 Важные детали: demo API без ключей (2k токенов, 4 RPS), поддержка chat-формата и vision (Gemma/Qwen), RFDT-файн-тюнинг на примерах или от учителя; цены от $0.03/млн токенов. 💡 Вывод и значение: можно сразу интегрировать в пайплайны для маршрутизации, ранжирования, выбора шагов; для продакшена — регистрация на Featherless; документация и playground доступны.