Исследование: успех диалектных jailbreak-атак определяет стратегия, а не язык
В препринте на arXiv исследователи разделили влияние языка, культурного контекста и оптимизации атак. Простая смена английского или путунхуа на шанхайскую...
Тема COMRAD404
jailbreak
2 материалов
Как работают промпт-инжекции: уязвимости языковых моделей и методы защиты
Разбираем механизм промпт-инжекций — от прямых атак до неявных внедрений. Какие уязвимости есть у современных LLM и как разработчики защищают...