Тема COMRAD404

misalignment

2 материалов

Новости ИИ//12.09.2026//4 мин чтения

OpenAI и Apollo Research сообщили о признаках «схеминга» у передовых ИИ-моделей

OpenAI и Apollo Research представили оценки для выявления скрытого несоответствия целей у ИИ-моделей. В контролируемых тестах исследователи обнаружили поведение, совместимое...

Исследования//06.09.2026//4 мин чтения

Внутренние кодинг-агенты OpenAI: как ускоряются исследования и почему это важно для безопасности

OpenAI опубликовала данные о том, как внутренние кодинг-агенты меняют темп и сложность AI-исследований. Параллельно компания делится опытом мониторинга таких агентов...