Препринт, опубликованный на arXiv 22 октября 2026 года, описывает уязвимость многоагентных систем на базе больших языковых моделей к стадному поведению. В эксперименте агенты рекомендовали незнакомые песни: часть групп видела только варианты, а часть — ещё и накопленные счётчики предыдущих рекомендаций. Авторы сообщают, что социальный сигнал мог превратить раннее случайное преимущество песни в устойчивую коллективную рекомендацию. Для систем, где агенты ориентируются на решения друг друга, это означает риск усиления случайного выбора вместо оценки самого объекта.
Исследование опубликовано в препринте «LLM Multi-Agent Systems Are Vulnerable to Herding and Runaway Cascades». Его авторы — Farnoosh Hashemi, Shiyu Ji, Joice Chen и Michael W. Macy.
Как устроен эксперимент
Авторы использовали дизайн, связанный с классическим экспериментом Music Lab, и сформировали большие популяции LLM-агентов. Им предлагали рекомендовать незнакомые песни, чтобы предыдущая известность произведения не определяла ответ напрямую. Ключевым различием были условия взаимодействия: в одном случае агент не получал коллективную статистику, в другом видел накопленное число рекомендаций.
Такой сценарий моделирует замкнутую цепочку: решение одного участника становится информацией для следующего, а следующий выбор меняет сигнал для остальных. Если система показывает не только содержание рекомендации, но и её популярность, агенты получают возможность ориентироваться на поведение группы.
Социальный сигнал усиливал каскад
По сообщению авторов, показ накопленных рекомендаций приводил к «убегающим» каскадам: коллективные предпочтения становились более крайними и непредсказуемыми, а связь итогового выбора с внутренней привлекательностью песни ослабевала. Иными словами, ранняя случайность могла закрепиться через обратную связь: популярный на старте вариант становился ещё заметнее, поэтому его чаще выбирали поздние агенты.
В сравнении с людьми популяции LLM, по результатам работы, в целом сильнее поддавались стадному поведению. Авторы также сообщают, что каскады LLM хуже самоисправлялись: после ухода группы в одну сторону система реже возвращалась к оценке исходного варианта. Это не означает, что любой коллектив агентов обязательно даст такой результат, но показывает, как видимая статистика может изменить поведение в описанном протоколе.
Что это меняет для рекомендаций и оценки
Результат важен для рекомендательных систем, в которых несколько моделей последовательно оценивают кандидатов или используют решения предыдущих агентов. Счётчик популярности в такой архитектуре может быть не нейтральным описанием спроса, а активным фактором, который сам создаёт дополнительную популярность. Аналогичный риск возникает в автоматической оценке: последующие модели способны повторять ранний вердикт, принимая его за независимое подтверждение.
Для совместной работы агентов это означает необходимость различать независимые оценки и ответы, сформированные под влиянием общей истории. Если все участники видят один и тот же промежуточный рейтинг, разнообразие мнений может быстро исчезнуть, а ошибка первого шага — стать коллективным выводом. Практический вопрос для разработчика здесь не только в качестве отдельной модели, но и в том, какие сигналы она получает от других участников и как устроена обратная связь.
Границы результата
Работа исследует конкретный эксперимент с рекомендациями незнакомых песен, а не все многоагентные системы. В предоставленных материалах нет независимой проверки результатов, поэтому выводы следует считать результатом одной исследовательской работы, а не универсальным свойством LLM. Препринт также не доказывает, что любой счётчик популярности обязательно вызывает каскад: значение имеют устройство взаимодействия, порядок решений и доступная агентам информация.
