Быстрые ответы Алисы AI в Поиске

источник ↗ ·

Технический разбор пайплайна генеративных ответов Яндекса: Agentic Search, Encoder-Decoder MoE и онлайн-RL на пользовательских сигналах.

yandex alice-ai encoder-decoder mixture-of-experts rlhf search pretrain open-source

privacy

Эта заметка участвует в semantic memory.

AI Summary

  1. Короткий обзор сути: Яндекс раскрыл архитектуру и пайплайн быстрых ответов Алисы AI в Поиске — от сбора инфоконтекстов до production-инференса на 35B-параметровой модели. 🔑 Ключевые факты: (a) Agentic Search — BERT-экстрактор 80M параметров сокращает входные токены на ~40 % без потери качества; (b) Alice AI-T5-35B-A0.6B — Encoder-Decoder MoE, 15T токенов, aux-free routing DeepSeek-V3, YaRN 128K; (c) SFT + GSPO (GRPO) + онлайн-сигналы Профицит дают winrate 56,7 % vs Google AI Overview и +0,34 % SPU. 📌 Важные детали: (a) RL-алгоритм GSPO с итеративным обновлением SFT-датасета и reward-моделей; (b) pairwise-агрегация шумных онлайн-сигналов с оценкой стандартной ошибки; (c) модель выложена на HF, но production-инференс только внутри Яндекса. 💡 Вывод и значение: (a) Encoder-Decoder MoE даёт лучший компромисс скорость/качество для RAG-сценариев; (b) онлайн-сигналы Профицит и SPU — ключевые метрики для оценки реальной пользы; (c) Practical ML Conf 2026 19 сентября — дополнительная информация.

Мои мысли

graph

Карта связей