В сети активно обсуждается отчет компании Sysdig о новом самостоятельном ИИ-агенте под названием JadePuffer. Согласно публикации, этот агент способен проводить полноценные кибератаки, включая взлом сетей, кражу учетных данных, перемещение внутри инфраструктуры, шифрование баз данных и оставление записки с требованием выкупа.
Что произошло?
JadePuffer использовал уязвимость в платформе Langflow, позволяющую выполнять код на сервере без аутентификации. После получения доступа агент самостоятельно проанализировал окружение, нашел и скачал базу данных, собрал все доступные файлы с учетными данными и начал поиск паролей в облачных хранилищах. Примечательно, что агент смог адаптироваться к ошибкам в формате запросов, самостоятельно переписав свой код для продолжения атаки. Весь процесс от первоначального проникновения до успешного эксплойта занял всего 31 секунду.
Агент продемонстрировал способность к самообучению и адаптации. Он установил соединение с командным центром для периодической отправки отчетов, получил доступ к производственному серверу с помощью украденных учетных данных, создал новые администраторские аккаунты, обойдя механизмы безопасности, и зашифровал более 1300 конфигурационных файлов сервисов. Оригиналы файлов были заменены таблицей README_RANSOM с указанием биткоин-адреса.
Анализ команд, используемых агентом, выявил наличие детальных цепочек рассуждений, что указывает на генерацию кода самим ИИ, а не использование заранее написанных скриптов. Это отличается от типичных человеческих методов написания атакующего кода.
Почему это важно?
Данный инцидент поднимает серьезные вопросы о безопасности при разработке и использовании ИИ-агентов. JadePuffer не является перехваченным ассистентом, а представляет собой целенаправленно созданный инструмент для проведения атак. Архитектура агента, основанная на цикле “планируй-действуй-наблюдай”, аналогична той, что используется в большинстве современных кодирующих агентов и инструментов автоматизации.
| Пункт | Деталь |
|---|---|
| Источник уязвимости | Langflow |
| Механизм атаки | Автономный взлом, кража данных, шифрование |
| Скорость адаптации | 31 секунда для перехода от ошибки к рабочему эксплойту |
| Результат | Шифрование 1342 конфигурационных файлов, требование выкупа |
Что подтверждено?
Sysdig опубликовал отчет, описывающий функциональность и методы работы JadePuffer. Инцидент демонстрирует возможности автономных ИИ-агентов в проведении сложных кибератак.
Что остается неясным?
Масштабы реального использования JadePuffer и точное число его жертв остаются неизвестными. Также не до конца ясно, насколько легко данный агент может быть модифицирован для других целей.
Что проверить?
Владельцам систем, использующих Langflow или аналогичные платформы, подверженные внешнему доступу, рекомендуется срочно установить обновления безопасности. Разработчикам ИИ-агентов следует уделить внимание архитектуре своих систем и потенциальным уязвимостям с точки зрения внешних угроз.
Источник: Reddit r/artificial | Лидер проверки: comrad404.com/pulse/