В июне 2024 года Леопольд Ашенбреннер опубликовал серию эссе Situational Awareness: The Decade Ahead. Центральный тезис текста звучит резко: AGI к 2027 году не гарантирован, но, по мнению автора, вполне правдоподобен, а затем возможен быстрый переход к системам заметно сильнее человека.
Этот текст важен не как «новость о модели», а как концентрат взглядов, которые в 2024 году активно обсуждались вокруг frontier-лабораторий: масштабирование compute, агентность, автоматизация AI R&D, безопасность и государственное участие. Но это не рецензируемая научная статья и не набор новых экспериментов; это сценарный прогноз, собранный из публичных трендов, экстраполяции и авторских допущений.
Ниже — разбор Situational Awareness Леопольд Ашенбреннер как исторического документа на момент июня 2024 года: что в нём опирается на внешние данные, а что остаётся спорным сценарием.
Коротко
- Основа аргумента Aschenbrenner — метод count the OOMs: свести прогресс ИИ к росту вычислений, алгоритмической эффективности и «разхоббливанию» моделей через инструменты, память и агентные циклы.
- Эмпирически лучше всего снаружи подтверждаются не сроки AGI, а базовые тренды: быстрый рост training compute, заметный алгоритмический прогресс и сильное влияние post-training и scaffolding.
- Самый спорный переход в тексте — от трендов на бенчмарках и в инфраструктуре к выводу, что к 2027 году системы смогут автоматизировать большую часть удалённого когнитивного труда и сам AI R&D.
- Блоки про superalignment, безопасность лабораторий и государственный «Project» важны как agenda-setting: они повлияли на язык обсуждения frontier AI, но не являются доказанными прогнозами.
- Читать Situational Awareness полезно как карту допущений одной части индустрии в 2024 году, а не как установленный консенсус.
Контекст: что такое «Situational Awareness»
На стартовой странице серии прямо указано: Leopold Aschenbrenner, June 2024. Автор пишет о себе, что до этого работал в OpenAI в команде Superalignment. Уже отсюда видно, почему текст быстро разошёлся: он был написан не академическим наблюдателем со стороны, а человеком, который апеллирует к внутреннему ощущению темпа в frontier-среде.
Серия появилась в момент, когда после GPT-4 спорили сразу о двух вещах. Первая: продолжается ли scaling и достаточно ли просто дальше наращивать compute, чтобы получить качественно новые способности. Вторая: если прогресс не замедлится, успеют ли методы контроля и governance догнать capability growth. На этом фоне International Scientific Report on the Safety of Advanced AI, опубликованный 17 мая 2024 года, формулировал более осторожную позицию: trajectories возможны очень разные, а наука о general-purpose AI «ещё не устоялась».
Важно и то, чем этот текст не является. Это не paper с новой методикой оценки AGI, не системная карта с формальной вероятностной моделью и не benchmark report. Скорее это длинная стратегическая записка: автор собирает несколько уже известных линий — compute, алгоритмы, post-training, power infrastructure, безопасность — и пытается показать, что вместе они дают намного более короткий горизонт до AGI, чем готова признать широкая публика.
Метод: как «Situational Awareness» строит прогноз до AGI
Ключевой приём серии — count the OOMs, то есть считать прирост в порядках величины эффективных вычислений. В разделе From GPT-4 to AGI: Counting the OOMs автор предлагает смотреть на три источника прогресса одновременно.
- Физические вычисления. Чем больше training compute, тем сильнее базовые модели.
- Алгоритмическая эффективность. Новые архитектуры, оптимизаторы, scaling laws и инженерные улучшения снижают compute, нужный для заданного уровня качества.
- «Разхоббливание» моделей. Инструменты, длинный контекст, посттренинг, scaffolding и агентные циклы позволяют раскрыть уже имеющиеся способности и превращают чат-интерфейс в более автономную систему.
Сила этой схемы в том, что она сводит очень разные улучшения к одной удобной валюте — effective compute. Это делает прогноз компактным: если тренды продолжаются, можно ожидать ещё один большой качественный скачок. Но именно здесь лежит и главная методологическая уязвимость: автор предполагает, что улучшения разного типа можно достаточно грубо складывать, а затем переносить их в выводы про экономическую полезность, автономность и надёжность в реальных задачах.
Внешняя литература подтверждает, что базовые составляющие этой схемы не взяты с потолка. Epoch AI оценивает рост training compute frontier-моделей как 4–5x в год, а более поздний их разбор power demand снова использует тот же порядок роста как рабочую основу прогноза. По алгоритмической эффективности работа Algorithmic progress in language models оценивает снижение нужного compute для заданного качества примерно как удвоение эффективности каждые 5–14 месяцев с центральной оценкой около 8 месяцев; в своём тексте Aschenbrenner опирается на сходную мысль: алгоритмы дают вклад, сопоставимый по важности с наращиванием железа.
Третий элемент — post-training и scaffolding — у автора особенно важен, потому что именно он связывает «умный чатбот» с агентом, способным выполнять задачи дольше и автономнее. И здесь тоже есть независимая опора: Epoch AI показывает, что enhancement без полного retraining иногда даёт крупный прирост на релевантных бенчмарках, а METR отдельно демонстрировала, что post-training и scaffolding заметно меняют поведение одного и того же базового семейства моделей на агентных задачах.
Коротко: эмпирическая база текста — это не «магическая новая теория AGI», а агрессивная экстраполяция уже наблюдаемых scaling-трендов.
Результаты: что именно утверждает серия
Если убрать риторику, у серии четыре крупных вывода. Первый: ещё один большой скачок возможностей к концу 2027 года выглядит, по мнению автора, реалистично. Второй: такого скачка может хватить, чтобы системы стали полезными как полноценные исследовательские и инженерные агенты. Третий: если они автоматизируют сам AI R&D, темп алгоритмического прогресса дополнительно ускорится. Четвёртый: из этого следуют уже не только продуктовые, но и инфраструктурные, безопасностные и государственные последствия.
| Узел аргумента | Что говорит Aschenbrenner | Что подтверждается внешними источниками | Чего данные не доказывают |
|---|---|---|---|
| Рост compute | Быстрое масштабирование training compute остаётся главным мотором capability growth. | Epoch AI оценивает рост training compute frontier-моделей как 4–5x в год; их power-оценки для 2030 года опираются на тот же порядок тренда. | Что сам по себе этот темп автоматически ведёт к AGI в фиксированную дату. |
| Алгоритмический прогресс | Алгоритмы дают добавочный «effective compute», который нельзя игнорировать. | Ho et al. оценивают падение compute для заданного уровня качества примерно как удвоение эффективности каждые 5–14 месяцев; Epoch в обзорной форме пересказывает тот же вывод. | Что такой темп без разрывов сохранится именно до 2027 года и одинаково перенесётся на frontier-agent behavior. |
| Post-training и агентность | Многие ограничения текущих моделей — это не потолок интеллекта, а следствие интерфейса и poor elicitation. | Epoch и METR показывают, что post-training, tool use и scaffolding могут существенно менять качество на практических задачах без нового гигантского pretraining-run. | Что все эти gains автоматически складываются в надёжного автономного «удалённого сотрудника» в открытом мире. |
| AGI к 2027 году | На странице введения и в первом эссе автор прямо пишет, что AGI by 2027 выглядит «strikingly plausible». | Внешняя литература подтверждает быстрый прогресс capability trends, но международный научный обзор по AI safety подчёркивает широкий диапазон возможных траекторий и отсутствие устоявшейся науки о near-term futures. | Что срок 2027 — это эмпирически установленный дедлайн, а не сценарная ставка. |
| Безопасность и governance | Контроль над системами сильнее человека — отдельная техническая проблема; по мере роста ставок подключится государство. | OpenAI в Introducing Superalignment и Anthropic в Responsible Scaling Policy тоже исходят из того, что scalable oversight и risk governance пока далеки от закрытия. | Что конкретно реализуется описанный автором государственный «Project» и именно в обозначённые им сроки. |
Это важное место для трезвого чтения. В таблице первые три строки — в основном про наблюдаемые технологические тренды. Последние две — уже про сценарные следствия. Именно здесь текст переходит от «что, похоже, ускоряется» к «что почти наверняка произойдёт дальше». И это разные уровни уверенности.
Наш комментарий
Сильная сторона Situational Awareness в том, что оно не спорит с соломенным чучелом. Автор не говорит: «появится одна волшебная архитектура — и всё взорвётся». Наоборот, он собирает много знакомых практикам компонентов: рост кластеров, улучшение efficiency, длинный контекст, tool use, агентные циклы, RL-style post-training, power buildout. Поэтому текст оказался убедителен для части инженерной аудитории: он выглядит как продолжение уже видимого курса, а не как научная фантастика.
Полезен и другой эффект. Серия связывает capability discussion с вопросами безопасности раньше, чем это стало полностью мейнстримом в массовом ИИ-медиа. В этом смысле она хорошо состыковывается с тем, что frontier-лаборатории уже сами писали в 2023–2024 годах: OpenAI — про superalignment, Anthropic — про risk tiers и scaling policy, а более поздние работы вроде Apollo Research — про возможное deceptive behavior в агентных настройках. Это не доказывает таймлайн Aschenbrenner, но показывает, что его concern about control не был чистой маргиналией.
Где текст начинает шататься — это переход от бенчмарков и агентных демо к экономически общей системе. Между «модель хорошо проходит тесты», «модель умеет работать неделями», «модель надёжно выполняет реальные задачи в компании» и «модель может заменить широкий класс remote cognitive jobs» лежат разные проблемы: фрейминг задач, интеграция в процессы, устойчивость к ошибкам, стоимость inference, доступ к данным, доверие пользователей и право на принятие решений. Серия часто обращается с этими слоями так, будто они в основном являются вопросом времени и engineering iteration.
Есть и второй разрыв: авторское описание геополитики частично аналитическое, а частично нормативное. Когда серия переходит к тезисам о решающем военном преимуществе, государственном проекте и правильной цепочке командования, она уже не просто экстраполирует capability trends, а предлагает конкретную политическую рамку. Для читателя-практика это важно отделять от технических наблюдений.
Ограничения и критика
1. Это не формальная модель прогноза. Автор сам позиционирует материал как вывод из публичной информации, field knowledge и собственных идей. Поэтому текст полезен как synthesis, но не даёт воспроизводимой процедуры, по которой другой исследователь обязан получить тот же таймлайн.
2. Сложение «порядков величины» эвристично. Рост training compute, алгоритмические улучшения и post-training gains не обязаны переноситься между задачами одинаково. Улучшение на coding benchmark, рост окна контекста и better scaffolding не равны по смыслу и не всегда складываются линейно.
3. Термин AGI остаётся подвижным. В разных местах серии AGI приближается то к уровню исследователя ИИ, то к широкому удалённому когнитивному работнику, то к системе, способной автоматизировать почти весь AI R&D. Для стратегии это допустимо, для строгой оценки — источник путаницы.
4. Инфраструктурный оптимизм спорен. Да, данные Epoch и других аналитиков показывают, что power demand и капитальные затраты на frontier training быстро растут. Но из этого ещё не следует гладкий путь: есть bottlenecks по электроэнергии, сетям, площадкам, срокам строительства, поставкам оборудования, доходности и регуляторике.
5. Безопасностная часть правильно ставит вопрос, но не закрывает решение. И OpenAI, и Anthropic, и международный научный обзор признают, что scalable oversight и risk governance остаются открытыми. Но из признания проблемы не вытекает, что её удастся решить в темпе, совместимом с самым агрессивным таймлайном capability growth.
6. Текст американоцентричен. Для policy-разбора это не дефект само по себе, но для читателя за пределами США важно помнить: значительная часть выводов строится из американской институциональной и военной оптики.
Вывод
Situational Awareness стоит читать не как пророчество и не как «очередной пост про конец света», а как сжатую карту допущений, на которой держится один из жёстких frontier-сценариев 2024 года. Его технический фундамент — scaling, algorithmic efficiency и post-training — во многом опирается на реальные тренды.
Но переход от этих трендов к формуле «AGI к 2027 году» остаётся именно прогнозом, а не результатом, который уже подтверждён наукой. По состоянию на 12 августа 2026 года этот дедлайн ещё не наступил, так что спор о тексте идёт не вокруг того, «прав он или нет окончательно», а вокруг того, насколько далеко можно экстраполировать уже видимые линии прогресса.
Источники
- Introduction – SITUATIONAL AWARENESS
- Situational Awareness
- I. From GPT-4 to AGI: Counting the OOMs – SITUATIONAL AWARENESS
- II. From AGI to Superintelligence: the Intelligence Explosion – SITUATIONAL AWARENESS
- IIIa. Racing to the Trillion-Dollar Cluster – SITUATIONAL AWARENESS
- IIIc. Superalignment – SITUATIONAL AWARENESS
- IV. The Project – SITUATIONAL AWARENESS
- About – SITUATIONAL AWARENESS
- Training compute of frontier AI models grows by 4-5x per year | Epoch AI
- How much power will frontier AI training demand in 2030? | Epoch AI
- Algorithmic progress in language models
- AI capabilities can be significantly improved without expensive retraining | Epoch AI
- Measuring the impact of post-training enhancements – METR
- Introducing Superalignment | OpenAI
- Anthropic’s Responsible Scaling Policy | Anthropic
- International scientific report on the safety of advanced AI: interim report – GOV.UK
FAQ
Это научная статья или эссе?
Это серия эссе и стратегических заметок, а не peer-reviewed paper с новой экспериментальной методикой. Поэтому её нужно читать как аргументированную экстраполяцию, а не как доказанный результат.
Что в «Situational Awareness» опирается на данные лучше всего?
Не сам срок AGI, а базовые тренды: рост training compute, быстрое улучшение algorithmic efficiency и сильный эффект post-training/scaffolding на практических задачах.
Можно ли уже сказать, что прогноз AGI к 2027 году сбылся или не сбылся?
Нет. По состоянию на 12 августа 2026 года дедлайн 2027 года ещё впереди. Сейчас можно обсуждать только правдоподобие допущений и промежуточные признаки, но не окончательный исход прогноза.
Почему этот текст обсуждают вместе с AI safety?
Потому что у Aschenbrenner capability growth и safety governance связаны напрямую: чем ближе системы к автономному AI R&D, тем острее становятся вопросы контроля, безопасности лабораторий и внешнего надзора.