Semantic Overlays: NX-бит для языковых моделей — защита от промпт-инъекций на уровне архитектуры
Новый метод защиты LLM от промпт-инъекций — Semantic Overlays. Небольшие обученные адаптеры на замороженной модели меняют то, как она воспринимает фрагмент контекста, не позволяя тексту имитировать маркер. Живое демо на Qwen-3.5-9B показывает SOTA-результаты на...
Открыть материал →









