Многоагентные системы ИИ и спонтанный консенсус
Исследование показывает, что языковые модели способны к спонтанной координации в группах без центрального управления, следуя за мнением большинства по универсальной математической закономерности.
privacy
Эта заметка участвует в semantic memory.
AI Summary
- Короткий обзор сути: Исследование из Science Advances демонстрирует, что современные языковые модели обладают механизмом спонтанной координации — способностью следовать за мнением большинства в группах без внешнего управления, наград или памяти.
🔑 Ключевые факты: Параметр «сила большинства» (β) определяет три режима поведения группы — отсутствие координации (β < 1), частичная координация (1 < β < β_t) и спонтанный консенсус (β > β_t ≈ 0,5·ln N). Критический размер группы N_c коррелирует с результатами модели в бенчмарке MMLU: GPT-3.5 Turbo — до 2 агентов, Claude 3 Haiku — до 10, Llama 3 70B — ~30, GPT-4o — ~80, GPT-4 Turbo — ~1000, Claude 3.5 Sonnet — >1000. Сила большинства падает с ростом абсолютного числа агентов.
📌 Важные детали: Эксперимент проводился в чистых условиях — бинарный выбор, отсутствие аргументов, случайные символы вместо слов, перестановка вариантов с вероятностью 50 %. Группа из 150 агентов Llama 3 70B последовательно раскалывалась до подгрупп по 25–30 участников. Причины конформизма: обучающие данные, RLHF, архитектура трансформеров. В реальных задачах возможны информационные каскады и влияние агентов с фиксированным мнением.
💡 Вывод и значение: Способность к спонтанному согласию открывает возможности для автономной разработки ПО и распределённого анализа данных, но несёт риски закрепления ошибок, сложности управления и неконтролируемого поведения на открытых площадках. Разработчикам необходимо учитывать математические законы группового поведения при проектировании надёжных многоагентных систем.