ИИ-агенты, включая большие языковые модели (LLM), всё чаще становятся частью нашей повседневной жизни, но их способность к естественной и эффективной координации с людьми пока ограничена. Часто это происходит из-за того, что существующие подходы фокусируются на обучении на демонстрациях, игнорируя неявные социальные нормы, которые лежат в основе человеческого поведения.
Новая работа, опубликованная на arXiv, предлагает решение этой проблемы. Исследователи сосредоточились на взаимодействии пешеходов и автомобилей как на примере динамической среды, где социальные нормы играют ключевую роль.
Ключевые принципы социальных норм
Собрав данные из более чем 3400 взаимодействий, учёные выделили три основополагающих принципа человеческих социальных норм:
| Punkt | Detail |
|—|—|
| Предсказуемость результата | Возможность предвидеть исход действий других участников. |
| Согласованность ценностей | Схожесть в приоритетах и целях взаимодействующих сторон. |
| Осведомленность о преимуществах | Понимание выгод от сотрудничества для всех участников. |
Эксперименты показали, что внедрение этих принципов в ИИ-агентов значительно улучшает их совместимость с человеком.
Результаты и выводы
В ходе экспериментов ИИ, обученный социальным нормам, продемонстрировал почти четырёхкратный рост общего результата по сравнению с базовой стратегией. Более того, он превзошёл по эффективности взаимодействия даже пары “человек-человек” на 43%. Это подчёркивает потенциал формализации неявных норм для создания более гармоничной интеграции ИИ в общество.
Что дальше?
Исследование подтверждает, что явное кодирование социальных норм может привести к более взаимовыгодной координации. Однако остаётся открытым вопрос, насколько универсальны эти три принципа для всех типов динамических взаимодействий и как их можно адаптировать к более сложным и многогранным социальным контекстам. Дальнейшие исследования могут быть направлены на изучение применения этих принципов в реальных робототехнических системах и мультиагентных средах.
Источник: https://arxiv.org/abs/2607.07021
Верификация: https://arxiv.org/