Тема COMRAD404

AI safety

2 материалов

Зачем изолировать ИИ-агентов от интернета: воздушный зазор как компромисс между безопасностью и реализмом тестов

Исследователи обсуждают, стоит ли полностью изолировать тестовые ИИ-агенты от сети, чтобы предотвратить их побеги. Полный «воздушный зазор» повышает безопасность, но...

«Мы действительно верим, что ИИ может убить всех людей»: ведущий safety-исследователь Anthropic оценил риск выше 10%

Руководитель отдела alignment science Anthropic Эван Хубингер публично признал, что вероятность гибели человечества от ИИ превышает 10% в ближайшие десять...