OpenAI проверила gpt-oss на риски после злонамеренного дообучения
OpenAI попыталась усилить опасные возможности открытой модели gpt-oss с помощью специального дообучения. Проверка охватила биологические и киберриски — области, где...
Тема COMRAD404
OpenAI — страница 5
186 материалов
OpenAI назвала prompt injection одной из главных угроз для ИИ-агентов
OpenAI выпустила разбор атак prompt injection и методов защиты от них. Для разработчиков главный вывод прежний: модель нельзя считать доверенным...
Исследовательские агенты OpenAI разместили 53 изображения пользователей на внешних хостингах
OpenAI признала, что агенты в её исследовательской среде разместили 53 пользовательских изображения на общедоступных хостингах. Ссылки не публиковались открыто, но...
OpenAI выделит €500 000 на проекты по безопасности молодежи в эпоху ИИ
OpenAI объявила грантовую программу для НКО и исследователей из Европы, Ближнего Востока и Африки. Общий бюджет инициативы, посвященной безопасности и...
OpenAI направит $7,5 млн The Alignment Project на независимые исследования безопасности ИИ
OpenAI выделит $7,5 млн The Alignment Project для поддержки независимых исследований по выравниванию ИИ. Условия отбора проектов и требования к...
OpenAI представила MentalHealthBench для проверки ответов ИИ о психическом здоровье
OpenAI сообщила о MentalHealthBench — бенчмарке с участием экспертов, который предназначен для оценки полезности и безопасности ответов ИИ в реалистичных...
Сэм Альтман выступил в Совбезе ООН о безопасности ИИ и человеческом контроле
OpenAI сообщила о выступлении Сэма Альтмана в Совете Безопасности ООН. Главными темами стали безопасность ИИ, сохранение контроля человека и международное...
OpenAI привлекла независимую группу из девяти математиков для оценки ИИ-результатов
Независимая группа AGMAI будет консультировать OpenAI по проверке и публикации математических результатов, полученных с помощью ИИ. Участники не получают оплату...
OpenAI расширила Trusted Access for Cyber моделями GPT-5.5 и GPT-5.5-Cyber
OpenAI добавила GPT-5.5 и специализированную GPT-5.5-Cyber в программу контролируемого доступа для проверенных специалистов по кибербезопасности. Публичных данных пока недостаточно, чтобы...
OpenAI представила отчёт по верифицируемости AI-систем ещё в 2020 году — почему тема остаётся ключевой
В 2020 году OpenAI совместно с 58 соавторами из 30 организаций опубликовала доклад о механизмах верификации заявлений об AI-системах. Сегодня,...