OpenAI опубликовала отчет о пресечении злоупотрeбления своими моделями со стороны двух китайских хакерских групп, публично атрибутированных правительству КНР. Компания заблокировала аккаунты, связанные с группами Vixen и Keyhole Panda, которые использовали ChatGPT для исследования уязвимостей, написания эксплойтов, автоматизации скриптов и перевода технической документации.
Отчет «Disrupting malicious uses of AI: June 2025» стал очередным подтверждением того, что государственные кибергруппы активно адаптируют большие языковые модели для разведки и подготовки атак, а не для непосредственного запуска вредоносного кода.
Что известно о группах Vixen и Keyhole Panda
Согласно документу OpenAI, обе группы имеют подтвержденные связи с китайским государством. Vixen и Keyhole Panda использовали коммерческие и исследовательские API OpenAI для задач, типичных для начальных этапов кибератак.
Аккаунты применялись для:
— анализа кода и поиска уязвимостей в целевом ПО;
— генерации и адаптации скриптов на Python и PowerShell;
— перевода англоязычной технической документации по эксплойтам и обходам защит;
— помощи в отладке и оперативном решении проблем при развертывании атак.
OpenAI подчеркивает, что не зафиксировала случаев, когда модель напрямую генерировала вредоносное ПО или управляла атаками. Вместо этого ИИ использовался как вспомогательный инструмент для ускорения рутинных задач, снижая порог входа для среднеквалифицированных участников групп.
Как OpenAI выявляет злоупотрeбления
Компания использует комбинацию поведенческого анализа, мониторинга API-запросов и кросс-референсинга с данными threat intelligence. В отчете указано, что блокировка произошла на основе внутренних расследований, а не внешних уведомлений.
OpenAI утверждает, что не передает данные о злоумышленниках третьим сторонам без судебного ордера, но сотрудничает с профильными государственными агентствами в рамках расследований. Каких-либо имен или конкретных техник атак, выявленных в ходе анализа, компания не раскрыла, сославшись на operational security.
Контекст: ИИ как инструмент киберразведки
Отчет OpenAI вписывается в более широкую картину использования больших языковых моделей государственными хакерами. Ранее Microsoft и Mandiant сообщали о попытках китайских, иранских и северокорейских групп использовать ChatGPT и другие LLM для фишинга, дезинформации и разведки.
Особенность кейса Vixen и Keyhole Panda — акцент на технической подготовке атак: исследование уязвимостей, написание скриптов, перевод документации. Это указывает на то, что ИИ используется не для замены экспертов, а для масштабирования их возможностей.
Для разработчиков и администраторов это означает, что стандартные методы защиты (фильтрация IP, rate limiting, мониторинг API) остаются актуальными, но требуют дополнения поведенческим анализом. OpenAI рекомендует использовать собственные инструменты обнаружения аномалий и не полагаться только на подписи известных угроз.
Ограничения отчета
Стоит отметить, что отчет OpenAI основан на внутренних данных компании и не прошел независимую верификацию. PDF-версия документа доступна на серверах OpenAI, однако полный список заблокированных аккаунтов, временные метки и конкретные промпты не раскрыты.
Группы Vixen и Keyhole Panda не являются новыми: они фигурируют в отчетах CrowdStrike и Mandiant с 2023 года. Нынешняя публикация — скорее демонстрация возможностей мониторинга OpenAI, чем раскрытие принципиально новой угрозы.
Для читателей, следящих за безопасностью AI-инфраструктуры, остается открытым вопрос: насколько эффективно OpenAI может отслеживать злоупотрeбления в реальном времени, учитывая шифрование трафика и использование прокси.