OpenAI сообщила о прогрессе в сотрудничестве с двумя государственными структурами, занимающимися безопасностью искусственного интеллекта: американским CAISI и британским AISI. Компания связывает эту работу с созданием более безопасных ИИ-систем.
Заявление опубликовано 12 сентября 2025 года в блоге OpenAI. Из доступного сообщения следует, что партнерство продолжается, однако компания не приводит подробностей о проведенных проверках, конкретных моделях и измеримых результатах.
Для разработчиков и организаций это важное ограничение: сам факт взаимодействия с государственными институтами не означает, что отдельная модель получила сертификацию, официальное одобрение или независимое подтверждение безопасности.
Что именно сообщила OpenAI
В публикации OpenAI описывает сотрудничество с CAISI в США и AISI в Великобритании как часть работы над повышением безопасности ИИ. Формулировка указывает на общий вектор партнерства, но не раскрывает его техническую сторону.
В сообщении не уточняется, шла ли речь о тестировании моделей, обмене технической информацией, консультациях или нескольких направлениях одновременно. Также не названы сроки отдельных этапов, состав участников и порядок публикации результатов.
Компания не приводит перечень проверенных систем и не сообщает, касалась ли работа уже доступных продуктов, будущих моделей или исследовательских прототипов. Поэтому из заявления нельзя сделать вывод о том, что конкретная модель OpenAI прошла независимую проверку.
Первоисточник публикации — OpenAI.
Какие институты участвуют
CAISI — американская структура, связанная с работой над стандартами и оценкой безопасности искусственного интеллекта. Информация о направлениях работы американского института публикуется на сайте Национального института стандартов и технологий США: nist.gov/aisi.
AISI — британский институт безопасности ИИ. Он занимается исследованием и оценкой рисков, связанных с современными моделями, а также взаимодействием с разработчиками и государственными организациями. Официальная информация о британском институте размещена на сайте aisi.gov.uk.
Названия организаций в сообщении OpenAI важны для понимания статуса инициативы, но не заменяют описания методики. Государственный институт может участвовать в исследовательском или оценочном взаимодействии, не выдавая при этом публичного разрешения на использование продукта и не принимая на себя ответственность за решения клиента.
Каких данных не хватает
В публикации OpenAI не указаны критерии, по которым оценивалась безопасность систем. Не сообщается, проверялись ли устойчивость моделей к вредным запросам, защита от злоупотреблений, утечка чувствительной информации, киберриски или другие сценарии.
Нет и опубликованного сравнения результатов до и после сотрудничества. Читатель не может определить, снизилась ли вероятность конкретных ошибок, изменились ли ограничения моделей или были ли добавлены новые меры защиты.
Не раскрыты также возможные ограничения работы. Например, неизвестно, охватывает ли партнерство все продукты OpenAI или только отдельные исследовательские проекты. Неясно, являются ли CAISI и AISI авторами самостоятельных выводов либо выступают партнерами по обмену опытом и технической экспертизе.
Эти пробелы не доказывают отсутствие проверок. Они означают лишь, что доступное заявление не позволяет оценить их глубину и практический эффект.
Что это меняет для разработчиков
Для команд, которые используют модели OpenAI в рабочих процессах, новость является сигналом о взаимодействии компании с профильными государственными институтами, но не готовым результатом аудита.
При выборе модели по-прежнему нужно проверять документацию конкретной версии, доступные настройки безопасности, правила обработки данных и ограничения API. Если модель применяется для поддержки решений, работы с персональными данными или автоматизации действий, общую репутацию партнерства нельзя использовать вместо собственной оценки рисков.
Практическая проверка должна проводиться на реальных сценариях организации. В нее стоит включить обычные запросы пользователей, намеренно неоднозначные формулировки, попытки обойти ограничения и работу с чувствительными данными. Результаты лучше фиксировать по версиям модели: поведение системы может меняться после обновлений.
Отдельно следует проверить, предусматривает ли продукт передачу запросов и ответов внешним сервисам, какие журналы сохраняются и кто имеет к ним доступ. Эти вопросы не раскрыты в сообщении о сотрудничестве и не могут быть выведены из самого факта участия CAISI или AISI.
Что отслеживать дальше
Наиболее полезными для рынка будут публикации с описанием методик, тестовых наборов и измеримых результатов. Также важно увидеть отдельные заявления американского и британского институтов: они помогут понять, какую роль каждый из них выполняет в сотрудничестве и публиковались ли независимые выводы.
Пока подтверждено только то, что OpenAI объявила о работе с CAISI и AISI, связав ее с задачей повышения безопасности ИИ-систем. Модели, подвергшиеся проверке, критерии оценки и последствия партнерства для продуктов компании в опубликованном сообщении не названы. Поэтому эту новость следует воспринимать как информацию о направлении работы, а не как доказательство безопасности конкретного инструмента.
