Google DeepMind совместно с Schmidt Sciences, Cooperative AI Foundation и британским агентством ARIA (Advanced Research and Invention Agency) объявили о запуске грантовой программы объёмом до $10 млн. Средства направлены на фундаментальные исследования безопасности в среде, где множество ИИ-агентов, разработанных разными организациями, взаимодействуют друг с другом в цифровом пространстве.
Инициатива получила поддержку Google.org. Заявки принимаются до 9 августа 2026 года, а победители будут объявлены осенью 2026 года. Информационные вебинары для потенциальных участников запланированы на 30 июня и 23 июля.
Почему это стало актуально сейчас
В официальном анонсе Google DeepMind подчёркивается, что индустрия входит в новую эру: «миллионы ИИ-агентов, созданных разными организациями, будут взаимодействовать в цифровых средах, общаясь, ведя переговоры и совершая транзакции друг с другом». Основная проблема в том, что современные методы оценки безопасности анализируют модели изолированно, тогда как коллективное поведение агентных систем может приводить к непредсказуемым эмерджентным эффектам.
В 2025 году исследователи DeepMind уже опубликовали концептуальную рамку для понимания таких взаимодействий, а недавняя работа об «агентных ловушках» (AI Agent Traps) продемонстрировала уязвимости при работе агентов в враждебной среде. Однако, как отмечается в заявлении, темпы развития систем опережают существующие модели безопасности.
Четыре приоритетных направления исследований
Организаторы выделили четыре области, по которым принимаются заявки:
— Анализ эмерджентной динамики крупномасштабных мультиагентных систем и разработка методов предсказания коллективного поведения.
— Создание инфраструктуры для доверенного взаимодействия между агентами разных разработчиков (протоколы, контракты, верификация).
— Методы мониторинга и контроля сетей взаимодействующих ИИ-систем.
— Разработка бенчмарков и инструментов оценки безопасности в мультиагентных средах.
Финансирование разделено на два уровня: Tier 1 — до $300 тыс. на 1–2 года, Tier 2 — от $300 тыс. до $1 млн на тот же период.
Контекст и независимые исследования
Параллельно с этим анонсом стоит отметить, что проблематика безопасности мультиагентных систем активно обсуждается в академической среде. В мае 2025 года на arXiv был опубликован препринт «Open Challenges in Multi-Agent Security», авторы которого предлагают выделить «мультиагентную безопасность» в отдельное научное направление. В работе систематизируются угрозы, возникающие именно при взаимодействии агентов: тайный сговор, скоординированные атаки, быстрое распространение вредоносных данных через сетевые эффекты.
Исследователи отмечают, что децентрализованные агенты скоро будут взаимодействовать через интернет-платформы, создавая вызовы, выходящие за рамки традиционной кибербезопасности и AI safety. Работа, поддержанная в том числе Schmidt Sciences, указывает на то, что фокус только на безопасности отдельных моделей недостаточен — требуется системный подход.
Что это значит для разработчиков и исследователей
Для российского AI-сообщества эта инициатива открывает несколько практических возможностей. Во-первых, грантовая программа явно ориентирована на независимых академических исследователей — это означает, что заявки принимаются не только от крупных лабораторий. Во-вторых, темы, связанные с протоколами взаимодействия агентов, мониторингом и бенчмарками, напрямую пересекаются с задачами, которые сейчас решают команды, работающие над агентными фреймворками.
При этом важно учитывать ограничения: грант предполагает работу в рамках западных научных институтов или при партнёрстве с ними. Тем не менее, публикация результатов и методологий, вероятно, будет открытой, что позволит использовать наработки в любых юрисдикциях.
Организаторы подчёркивают, что ни одна лаборатория не может решить проблему мультиагентной безопасности в одиночку. В ближайшие два года мы, вероятно, увидим первые практические рамки и протоколы, которые лягут в основу стандартов для взаимодействия ИИ-агентов. Вопрос в том, насколько быстро эти стандарты будут приняты индустрией и смогут ли они предотвратить сценарии, описанные в недавних исследованиях как «новые постоянные угрозы на системном уровне».