Chain-of-Thought (CoT)

Chain-of-Thought (CoT) — это «серия промежуточных шагов рассуждения», через которые модель приходит к ответу. В практике этим термином называют не только сами промежуточные шаги, но и CoT prompting — способ промптинга с демонстрациями таких шагов; при этом в продуктовой документации рядом встречаются также thinking и reasoning, и это не всегда одно и то же.

Короткий ответ на запрос «что такое Chain-of-Thought»: это попытка заставить модель идти к выводу поэтапно, а не выдавать только финальный результат. Но видит ли пользователь эти шаги, зависит от конкретной системы: OpenAI пишет, что не показывает пользователям raw chain of thought, а некоторые инструменты Google, напротив, могут возвращать thought process вместе с финальным ответом.

Английский термин: chain-of-thought. Сокращение: CoT. Рядом по смыслу встречаются chain-of-thought prompting, thinking mode, reasoning. Важно не смешивать их: исходная статья описывает CoT как промежуточные шаги рассуждения, а vendor docs могут отдельно говорить о видимом thinking-режиме или о скрытом внутреннем reasoning.

Простыми словами

Грубо говоря, CoT — это режим, в котором модель не просто говорит «ответ: 42», а показывает, как она до этого дошла: что сначала посчитала, что сравнила, какой промежуточный вывод сделала. Аналогия неполная, но можно представить черновик рядом с итоговым ответом.

Для пользователя это важно по двум причинам. Во-первых, на задачах с несколькими логическими шагами такой подход может помочь модели не «перепрыгивать» к случайному ответу. Во-вторых, если шаги вообще доступны, их можно inspect — именно так это формулирует Google в своём Machine Learning Glossary.

Как это работает

В исходной работе 2022 года CoT prompting строится так: в prompt добавляют несколько демонстраций, где показаны не только задача и правильный ответ, но и промежуточные шаги. Модель продолжает этот паттерн и генерирует собственную последовательность рассуждения перед финальным выводом.

Технически схему можно представить так:

Задача пользователя
        ↓
Prompt с несколькими демонстрациями CoT
(вопрос → промежуточные шаги → ответ)
        ↓
Модель продолжает шаблон
и генерирует промежуточные шаги
        ↓
Финальный ответ
        ↓
Шаги либо видны пользователю,
либо остаются внутренними — зависит от системы

1. Формулируется задача. Обычно это арифметика, commonsense или символическое рассуждение — именно такие классы задач перечислены в исходной статье.
2. Добавляются демонстрации. В paper это few-shot setup: в prompt включают несколько образцов, где уже показано рассуждение по шагам.
3. Модель продолжает формат. Если шаблон распознан, она чаще строит ответ не сразу, а через серию промежуточных шагов.
4. Система решает, что увидит пользователь. По Google glossary step-by-step reasoning может помочь правильности и inspectability. Но OpenAI отдельно пишет, что raw chains of thought пользователю не показывает, даже если reasoning model думает перед ответом.

Отсюда главный практический вывод: CoT как исследовательский термин и «видимый thought process» в конкретном продукте — не синонимы. В одном случае речь о методе prompting или внутреннем reasoning, в другом — о том, что интерфейс или API вообще возвращает наружу.

Где применяется

• Исследовательские бенчмарки на сложных задачах. Исходная статья сообщает об улучшениях на arithmetic, commonsense и symbolic reasoning tasks. Там же сказано, что модель 540B с восемью exemplars достигла state-of-the-art на GSM8K.
• Промптинг для задач, где важен ход решения. Google определяет chain-of-thought prompting как prompt-engineering technique, которая побуждает LLM объяснять reasoning step by step. Если вам нужен прикладной шаблон, пригодится материал как использовать Chain-of-Thought (CoT) промптинг.
• Reasoning-модели с внутренним ходом мысли. В документации OpenAI для o1 сказано, что такие модели think before answering и produce a long internal chain of thought before responding to the user. Это пример случая, где CoT существует как часть поведения модели, но не обязательно как видимый пользователю текст.
• Продуктовые thinking-режимы. В Google ML Kit страница thinking mode, обновлённая 2026-07-15 UTC, описывает beta-функцию без SLA и без deprecation policy: на поддерживаемых устройствах она возвращает thought process и final response. В тех же docs сказано, что это работает на устройствах с Gemini Nano V4 и выше либо через Developer Preview на AICore-enabled device, а multi-turn conversations в AICore сейчас не поддерживаются.
• API-режимы с явным «thinking». В release notes Gemini API указано, что Gemini 2.0 Flash Thinking Mode вышел в public preview 2024-12-19 как test-time compute model, который exposes the model’s thought process and improves reasoning.

Практический пример

Ниже — не «универсальный магический prompt», а иллюстрация принципа из исходной статьи: вы показываете модели несколько примеров, где есть не только ответ, но и промежуточные шаги.

Пример 1
Вопрос: У Маши было 3 яблока, ей дали ещё 2. Сколько стало?
Промежуточные шаги: Было 3. Добавили 2. Складываем 3 + 2 = 5.
Ответ: 5

Пример 2
Вопрос: На полке 10 книг, 4 забрали. Сколько осталось?
Промежуточные шаги: Было 10. Убрали 4. Вычитаем 10 - 4 = 6.
Ответ: 6

Теперь решите новую задачу.
Вопрос: В коробке 7 шаров, добавили 5. Сколько стало?
Промежуточные шаги:

Что здесь происходит:

1. Вы задаёте формат рассуждения, а не только формат ответа.
2. Модель видит, что от неё ожидаются промежуточные шаги перед итогом.
3. Если система поддерживает видимый thinking output, вы можете отдельно анализировать thought process и final response. Если нет, пользователь может получить только конечный ответ.

Для Android-сценария с Google ML Kit практический минимум такой: включить thinking mode по официальной инструкции, отправить одиночный prompt и проверить, приходит ли thoughtProcess или событие onNewThought. По документации это beta-функция, и в AICore сейчас нет поддержки multi-turn conversations.

Чем отличается от…

Ещё одно частое смешение — CoT и Chain (цепочка агентов). Это разные уровни: CoT относится к ходу рассуждения внутри ответа модели, а agent chain — к организации нескольких шагов или компонентов в системе.

Ограничения и заблуждения

• Заблуждение: «CoT всегда видно пользователю». Нет. Google glossary говорит, что reasoning steps можно inspect, но OpenAI прямо пишет, что raw chains of thought не показываются пользователям.
• Заблуждение: «CoT — полностью стандартизованный термин». Нет. В paper, product docs и safety writeups термин используется близко, но не идентично; это отдельно отмечено и в ограничениях пакета источников.
• Заблуждение: «Если продукт показывает thought process, это и есть универсальный стандарт CoT». Нет. Видимый thinking-режим — это конкретная реализация конкретного вендора, а не общая норма для всех LLM.
• Ограничение по безопасности и обучению. OpenAI пишет, что natural-language chain of thought может быть monitorable, но одновременно предостерегает от strong direct supervision of CoTs для frontier reasoning models.
• Ограничение по внедрению. В Google ML Kit thinking mode находится в beta, без SLA и без deprecation policy; кроме того, в AICore сейчас не поддерживаются multi-turn conversations.

Практический вердикт: когда вы видите в документации слова CoT, thinking или reasoning, сначала уточните три вещи: это prompt technique, внутренний скрытый reasoning или реально видимый пользователю thought process. Без этого легко неверно понять и возможности модели, и ограничения API.

Редакционное ограничение: этот материал опирается на paper, официальные docs и changelog из пакета источников, актуального на 2026-08-16. В нём нет единого межвендорного стандарта CoT и нет универсального количественного сравнения всех текущих reasoning-моделей.

Связанные материалы

Для прикладных шаблонов промптинга см. как использовать Chain-of-Thought (CoT) промптинг. Для вопросов наблюдаемости и контроля reasoning-моделей полезен термин AI Safety (безопасность ИИ). Если вы внедряете reasoning-режимы в систему, отдельно оценивайте Throughput (пропускная способность); но в текущем пакете источников нет универсальных чисел именно для CoT-режимов.

Источники

• Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
• Machine Learning Glossary | Google for Developers
• Detecting misbehavior in frontier reasoning models | OpenAI
• Evaluating chain-of-thought monitorability | OpenAI
• Learning to reason with LLMs | OpenAI
• Use thinking mode | ML Kit | Google for Developers
• Release notes | Gemini API | Google AI for Developers
• o1 Model | OpenAI API

Вопросы и ответы

Что такое Chain-of-Thought простыми словами?

Это промежуточные шаги рассуждения перед финальным ответом модели. Вместо одного результата система строит или показывает последовательность шагов, которые к нему ведут.

Chain-of-Thought и chain-of-thought prompting — это одно и то же?

Нет. CoT — это сами промежуточные шаги рассуждения, а chain-of-thought prompting — техника, где вы добавляете в prompt несколько демонстраций таких шагов, чтобы задать модели нужный формат ответа.

Всегда ли пользователь видит цепочку рассуждений?

Нет. OpenAI пишет, что raw chains of thought пользователям не показывает. В некоторых продуктах Google, наоборот, можно получить thought process вместе с final response, но это зависит от конкретного режима и платформы.

Где CoT полезен на практике?

В исходной статье CoT показал улучшения на arithmetic, commonsense и symbolic reasoning tasks. В прикладной работе CoT используют там, где важен не только итог, но и поэтапное объяснение хода решения.

Гарантирует ли CoT лучший ответ?

Нет, универсальной гарантии в пакете источников нет. Есть подтверждение, что в исходной работе CoT улучшал результаты на ряде задач, но переносить это как обещание на любую модель, любой API и любой prompt нельзя.