OpenAI выпустила system card для o1: что известно о проверках безопасности модели рассуждений
OpenAI опубликовала system card для o1 и o1-mini: документ описывает red teaming, оценки frontier-рисков и ограничения перед выпуском моделей.
Последние публикации
Об авторе
GitHub разрешил блокировать слияние PR с обнаруженными секретами
GitHub добавил в repository rulesets правило, которое блокирует слияние pull request, пока обнаруженные secret scanning alerts не будут разрешены. Функция...
Moonshot AI нацелилась на $2 млрд годовой выручки на фоне спора вокруг Kimi
По данным TechCrunch со ссылкой на Bloomberg, китайская AI-лаборатория Moonshot AI рассчитывает выйти на $2 млрд годового темпа выручки к...
OpenAI объяснила, почему языковые модели продолжают галлюцинировать
OpenAI связывает галлюцинации языковых моделей не только с архитектурой LLM, но и с тем, как индустрия измеряет качество ответов: тесты...
Любой Nix-пакет в браузере: trynix.dev запускает виртуальную машину с полной историей nixpkgs через WebAssembly
Проект trynix.dev позволяет запустить любой пакет из истории nixpkgs за последние 13 лет прямо в браузере — без установки Nix...
ToolGrad: как перевернуть обучение ИИ-агентов и сэкономить на датасетах
Google представила ToolGrad — фреймворк, который генерирует датасеты для обучения ИИ-агентов, переворачивая стандартный подход: сначала создаётся цепочка вызовов инструментов, а...
Emirati Arabic LLM-бенчмарк Alyah: оценка диалектов выявила слабость даже у лучших моделей
Исследователи из TII представили бенчмарк Alyah для оценки понимания эмиратского диалекта арабского языка. Тестирование 53 моделей показало, что даже лучшие...
AI и будущее кибербезопасности: почему открытость становится фактором защиты
История Mythos показывает: в кибербезопасности важен не только уровень языковой модели, но и вся система вокруг неё. Разбираем, почему открытые...
«Мы действительно верим, что ИИ может убить всех людей»: ведущий safety-исследователь Anthropic оценил риск выше 10%
Руководитель отдела alignment science Anthropic Эван Хубингер публично признал, что вероятность гибели человечества от ИИ превышает 10% в ближайшие десять...
GitHub Enterprise Server 3.22: новые инструменты для администрирования и безопасности
Выпущена версия 3.22 корпоративной платформы GitHub Enterprise Server. В релизе — обновления для управления командами, правила репозиториев с гибкими исключениями...
OpenAI разобрала шум в бенчмарках кода: SWE-Bench Pro оказался ненадёжным
Новый анализ OpenAI выявил системные проблемы в популярном бенчмарке SWE-Bench Pro. Компания утверждает, что значительная часть результатов на тестах генерации...
Anthropic выделяет $5 млн на независимые исследования влияния ИИ на благополучие пользователей
Компания Anthropic запускает грантовую программу на $5 млн для создания открытых бенчмарков и оценок влияния ИИ-ассистентов на психологическое состояние пользователей....