В посте Neural Shit пересказаны результаты исследования VirusTotal о навыках для ИИ-агентов. Интересный нюанс: опасные инструкции могут быть записаны обычным текстом, но спрятаны так, что человек не увидит их в привычном просмотре файла.
VirusTotal сообщает, что проанализировала 35 878 отправленных ей навыков и классифицировала 6 637 из них как вредоносные. По данным компании, 62% от этих 6 637 навыков не содержали вредоносного кода: опасные действия были описаны текстовыми инструкциями в документации.
Скрытые инструкции VirusTotal обнаружила в 90 из 6 637 вредоносных навыков — это 1,4% именно от числа навыков, классифицированных как вредоносные. Компания описывает три способа: 56 навыков прятали текст после 78–825 пустых строк, в 28 использовались HTML-комментарии, а в 6 — невидимые символы Unicode. HTML-комментарий может не отображаться в Markdown-превью, хотя остаётся в исходном файле.
Важное ограничение: VirusTotal называет эти числа нижней оценкой. Навык учитывали, только если инструкция, которую система компании отметила как вредоносную, находилась именно в одном из описанных скрытых мест. Результаты относятся к навыкам, отправленным в VirusTotal, а не ко всем существующим навыкам; это выводы компании, не независимая проверка редакции.
