В сообществе разработчиков ИИ активно обсуждается потенциально опасная уязвимость, обнаруженная в модели GPT-5.6. По сообщениям, система в определенных сценариях может непреднамеренно удалять файлы пользователей. Этот инцидент подчеркивает важность осторожного подхода к развертыванию и использованию мощных языковых моделей, особенно в контексте автоматизации и работы с кодом.
Причины инцидента
Как описывает Тибо Соттио, эксперт, чьи слова цитирует Саймон Уиллсон, проблема чаще всего возникает при одновременном соблюдении нескольких условий. Во-первых, это активация режима “полного доступа” (full access mode). Во-вторых, запуск модели Codex без стандартных мер защиты, таких как песочница (sandboxing) и автоматическая проверка результатов (auto review).
В таких условиях модель может попытаться изменить переменную окружения $HOME для определения временного каталога. Ошибка интерпретации или выполнения команды приводит к тому, что вместо указанного временного каталога модель ошибочно удаляет сам домашний каталог пользователя ($HOME), что влечет за собой потерю всех пользовательских данных.
Ключевые факторы риска
- Режим полного доступа: Предоставление ИИ-модели неограниченных прав на взаимодействие с файловой системой и системой в целом является основной предпосылкой для возникновения данной ошибки.
- Отсутствие песочницы: Изоляция рабочего процесса модели от основной системы (sandboxing) критически важна для предотвращения нежелательных действий. Без нее модель имеет прямой доступ к ресурсам.
- Пропуск автопроверки: Автоматическая проверка и валидация действий модели перед их исполнением могли бы выявить и предотвратить ошибочное удаление.
- Некорректная работа с переменными окружения: Ошибка в логике обработки или модификации системных переменных, таких как $HOME, приводит к катастрофическим последствиям.
Последствия для пользователей и разработчиков
Потеря данных может иметь серьезные последствия как для индивидуальных пользователей, так и для разработчиков, использующих ИИ-агентов для автоматизации рабочих процессов. В контексте разработки программного обеспечения, где Codex и подобные модели могут использоваться для написания, отладки и рефакторинга кода, случайное удаление файлов может привести к потере значительных объемов работы, срыву сроков проектов и необходимости дорогостоящего восстановления данных.
Для ИИ-агентов, наделенных полномочиями выполнять задачи в пользовательской среде, подобные ошибки являются напоминанием о необходимости строгих протоколов безопасности. Разработчики должны тщательно оценивать риски, связанные с предоставлением широких прав доступа таким агентам, и внедрять многоуровневые системы защиты.
Рекомендации и дальнейшие шаги
Хотя официальных заявлений от разработчиков GPT-5.6 на момент публикации не поступало, данная информация, распространяемая через экспертные мнения и цитаты, требует внимания. Разработчикам, использующим модели, подобные GPT-5.6, рекомендуется:
- Избегать использования режима полного доступа без крайней необходимости и всестороннего тестирования.
- Всегда применять меры изоляции (песочницу) при запуске моделей, особенно тех, что имеют доступ к файловой системе.
- Внедрять системы автоматического контроля и подтверждения критических операций, выполняемых ИИ.
- Регулярно создавать резервные копии всех важных данных.
- Следить за официальными обновлениями и бюллетенями безопасности от разработчиков моделей.
Этот случай подчеркивает постоянную необходимость в исследованиях и разработке более безопасных и надежных ИИ-систем, способных выполнять сложные задачи без риска для целостности пользовательских данных.
Ключевые факты
| Аспект | Описание |
|---|---|
| Модель | GPT-5.6 (конкретно, компонент Codex) |
| Проблема | Случайное удаление файлов пользователя |
| Условия возникновения | Режим полного доступа, отсутствие песочницы и автопроверки |
| Механизм | Попытка изменить $HOME, приводящая к удалению домашнего каталога |
| Источник информации | Цитирование Тибо Соттио, публикация Саймона Уиллсона от 16 июля 2026 г. |
Этот инцидент является важным сигналом для всех, кто работает с продвинутыми моделями ИИ и автоматизированными системами. Он напоминает о том, что даже самые современные технологии требуют тщательного контроля и соблюдения мер предосторожности для защиты данных.
Источник: Simon Willison, Quoting Thibault Sottiaux, https://simonwillison.net/2026/Jul/16/bad-codex-bug/#atom-everything