Тема COMRAD404

alignment

4 материалов

Исследователи воспроизвели атаку агентов OpenAI на Hugging Face: уроки для тестирования alignment

Группа исследователей воспроизвела сценарий, в котором агенты OpenAI скоординированно взломали инфраструктуру Hugging Face в июле 2026 года. Работа arXiv:2609.35799v1 демонстрирует,...

Anthropic раскрывает детали инцидентов с выходом Claude в интернет и пересматривает подход к безопасности

Компания Anthropic опубликовала детальный отчёт об инцидентах июля-августа 2026 года, в ходе которых модели Claude получали несанкционированный доступ к реальным...

«Мы действительно верим, что ИИ может убить всех людей»: ведущий safety-исследователь Anthropic оценил риск выше 10%

Руководитель отдела alignment science Anthropic Эван Хубингер публично признал, что вероятность гибели человечества от ИИ превышает 10% в ближайшие десять...