OpenAI совместно с 58 соавторами из 30 организаций, включая Centre for the Future of Intelligence, Mila, Schwartz Reisman Institute, Center for Advanced Study in the Behavioral Sciences и Center for Security and Emerging Technologies, опубликовала доклад, в котором описаны десять механизмов повышения верифицируемости заявлений о AI-системах. Материал вышел в апреле 2020 года, но его практическая значимость только растёт: спустя шесть лет тема независимой проверки действий разработчиков AI стала одной из центральных в индустрии.
О чём доклад 2020 года
Документ адресован трём группам: разработчикам, которые могут использовать описанные инструменты для доказательства безопасности, надёжности, справедливости или конфиденциальности своих систем; пользователям и гражданскому обществу, которым эти инструменты помогают оценивать процессы разработки; и политикам, формирующим требования к прозрачности. Десять механизмов охватывают как технические методы (формальная верификация, аудит логов, воспроизводимость экспериментов), так и организационные (независимые оценки, публичные отчёты, сторонний надзор). Доклад не был нормативным актом, но задал рамку, в которой позже начали работать инициативы вроде Preparedness Framework OpenAI и Responsible Scaling Policy Anthropic.
Почему это важно сейчас
В 2024–2026 годах ведущие лаборатории выпустили серию system cards. OpenAI опубликовала карты для GPT-4o (август 2024) и GPT-6 Astra (сентябрь 2026), где в открытую приводится оценка рисков по четырём категориям Preparedness Framework. Это прямое продолжение логики верифицируемости: компания сама раскрывает, как проверяла модель на кибербезопасность, убеждение, автономию и биологические угрозы. Anthropic выпустила собственные карты для Claude Opus 4.6 и начала публиковать метрики внутренней разработки — от объёмов compute до числа автоматизированных правок кода.
Однако лаборатории пока остаются единственными судьями собственных system cards. Стэнфордский HAI в отчёте по итогам совместного воркшопа с MIT и Princeton (октябрь 2024) подчеркнул необходимость юридических и технических «безопасных гаваней» для сторонних оценщиков, стандартизации процедур и общей терминологии. Кейноут Руман Чоудхури из Humane Intelligence сравнила текущую ситуацию с «новым позолоченным веком»: экономический подъём при почти полном отсутствии защиты пользователей.
Независимая проверка — слабое место
Проблема, на которую указывал доклад OpenAI, остаётся нерешённой. Компания не может быть надёжным судьёй собственного соответствия заявленным стандартам. В LinkedIn-публикации 2026 года юрист Ставрос Гадинис отметил, что финансовые рынки решили аналогичную проблему через обязательный внешний аудит, и AI нуждается в собственной версии такого института. Anthropic уже объявила о допуске независимых внешних оценщиков к внутренним процессам, но это скорее исключение, чем практика.
Косвенным подтверждением служит ситуация с AI-кодом. Компания CodeRabbit в июне 2026 года опубликовала анализ, показавший, что модели, проверяющие собственные правки, пропускают 64,5% ошибок из-за эффекта «слепого пятна самокоррекции». Если AI-агент пишет код и тот же AI-агент его ревьюит, риск повторения системных ошибок возрастает. Независимый reviewer — будь то отдельный инструмент или человек — остаётся обязательным звеном.
Как это отражается на практике разработчиков
На Hacker News пользователи активно обсуждают многоэтапные пайплайны верификации. Типичный подход: проектирование с одной моделью, реализация с другой, ревью с третьей, затем итеративное уточнение. Один из участников описал схему, где Claude 4.7 используется для написания кода, а Codex GPT-5.5 — для поиска угловых случаев. «Версия 1 фичи ощущается как версия 3 после такого количества итераций», — заметил он. Хотя эти обсуждения основаны на личном опыте и не проходят формальную проверку, они показывают, что сообщество уже эмпирически пришло к принципу разделения верификации и генерации — ровно тому, что рекомендовал доклад 2020 года.
Что это значит для читателей
При выборе инструментов и поставщиков AI стоит оценивать не только заявленные характеристики модели, но и то, как компания подтверждает эти заявления. Есть ли у модели system card с датами обновлений? Допускает ли лаборатория внешние аудиты? Использует ли продукт независимые средства верификации для собственного кода? Доклад OpenAI 2020 года остаётся полезным чеклистом даже спустя шесть лет, особенно сейчас, когда скорость развёртывания опережает формальное регулирование.
Рекомендуем прочитать полный текст доклада на сайте OpenAI (англ.) и сравнить его с последними system cards GPT-6 Astra и GPT-4o. Это даёт практическое представление о том, как эволюционировала прозрачность — и где она по-прежнему недостаточна.