Как протестировать MCP-сервер на утечку контекста: практический чеклист для разработчиков
MCP-серверы дают AI-агентам доступ к базам данных, файлам и API, но вместе с данными может утекать контекст — промпты, схемы,...
Тема COMRAD404
prompt injection
6 материалов
OpenAI назвала prompt injection одной из главных угроз для ИИ-агентов
OpenAI выпустила разбор атак prompt injection и методов защиты от них. Для разработчиков главный вывод прежний: модель нельзя считать доверенным...
Semantic Overlays: NX-бит для языковых моделей — защита от промпт-инъекций на уровне архитектуры
Новый метод защиты LLM от промпт-инъекций — Semantic Overlays. Небольшие обученные адаптеры на замороженной модели меняют то, как она воспринимает...
Уязвимость в режиме Auto Mode Claude Code: атака срабатывает в 80% случаев
Исследователь Йоханн Ребергер обнаружил атаку на режим Auto Mode в Claude Code от Anthropic, которая обходит защиту от prompt-инъекций в...
Как проверить промпт-инъекцию в LLM: тактики и инструменты 2026
Промпт-инъекции остаются главной уязвимостью агентов на LLM. Разбираем актуальные методы обнаружения, тестовые фреймворки и практические чек-листы для разработчиков.
Claude Opus 5 демонстрирует рекордную устойчивость к prompt injection по данным системной карты
Согласно материалам официальной системной карты Anthropic, модель Claude Opus 5 показала самую высокую защиту от атак внедрения промпотов за всю...