Исследователи Apple описали SelfCompact — метод, который позволяет ИИ-агенту выбирать, когда сокращать накопленную историю рассуждений и вызовов инструментов. В статье авторы сообщают, что на шести бенчмарках и семи моделях их подход сопоставим с фиксированным сжатием или превосходит его, расходуя на 30–70% меньше токенов на вопрос. Это результаты авторского исследования, а не гарантия такого же эффекта в произвольном агенте.
Работа опубликована на сайте Apple; её также можно найти на arXiv под номером 2606.23525. Авторы связывают задачу с «загрязнением контекста»: длинная история сохраняет устаревшие сведения и неудачные промежуточные шаги, которые могут влиять на дальнейшие ответы. Одновременно история разрастается и приближается к лимиту контекстного окна.
Сжатие привязано к ходу задачи, а не только к счётчику токенов
Распространённый вариант — сокращать историю после достижения заданного порога. Такой триггер не учитывает, завершён ли этап работы: он может сработать посреди математического вывода или поиска, когда важные промежуточные данные ещё нужны.
SelfCompact объединяет два элемента. Первый — инструмент, которым модель может вызвать сжатие накопленного контекста. Второй — краткие правила для выбора момента: сжимать после разрешения подзадачи или при явном продвижении к решению, но не в середине вывода и не тогда, когда агент застрял.
По описанию авторов, каждый элемент по отдельности работает недостаточно надёжно. Модель с одним инструментом может использовать его нерегулярно или не вовремя, а правила без инструмента не позволяют выполнить сжатие. В сочетании они задают и действие, и ориентир для его запуска. Авторы утверждают, что для этого не требуются дообучение модели или внешняя супервизия: механизм применяется во время инференса.
Что заявлено в результатах
В аннотации Apple говорится о проверках на шести бенчмарках для конкурсной математики и агентного поиска, а также на семи моделях. По сравнению с вариантом без сжатия авторы сообщают об улучшении результата до 18,1 процентного пункта на математических задачах и на 5–9 пунктов в агентном поиске. При этом затраты на вопрос, согласно статье, снижались на 30–70%.
Эти цифры нужно читать в границах конкретной экспериментальной постановки. Они не означают, что любой агент автоматически станет дешевле или точнее на те же величины: результат зависит от модели, задачи, правил вызова инструмента и способа подсчёта затрат. Само исследование посвящено управлению контекстом в длинных траекториях, а не универсальному улучшению качества языковых моделей.
В доступных материалах есть независимый разбор Pith Review: он обращает внимание на то, что правила написаны вручную и различаются для задач, а выбранные интервалы и условия запуска остаются параметрами метода. Это полезное уточнение к заявленным результатам: адаптивность здесь не возникает сама собой — её задают разработчики scaffolding-слоя.
Что проверить разработчикам агентов
Для команды, которая строит агента с длинными цепочками инструментальных вызовов, практический вопрос — не только «сколько токенов можно убрать», но и «какие сведения нельзя потерять до завершения задачи». Сравнение SelfCompact с обычным пороговым сжатием имеет смысл проводить на одних и тех же моделях, заданиях и лимитах.
Минимальный тест можно организовать так:
Выбрать задачи с несколькими этапами — например, поиск с проверкой источников или математический вывод с промежуточными результатами.
2. Сравнить три режима: без сжатия, с фиксированным порогом и с инструментом сжатия плюс явные правила запуска.
3. Отдельно записывать точность, число токенов и случаи потери фактов, нужных на следующих этапах.
4. Проверять не только среднее значение, но и ошибки на длинных или незавершённых траекториях: именно там преждевременное сжатие особенно рискованно.
Такой тест не воспроизводит весь набор экспериментов Apple, но помогает понять, подходит ли механизм конкретному приложению. Экономия токенов сама по себе недостаточна, если после сокращения агент теряет ограничения пользователя, промежуточные доказательства или контекст результатов поиска.
Доступность реализации и пределы вывода
Код проекта опубликован в репозитории GitHub, указанном в версии статьи на arXiv. Это даёт разработчикам возможность изучить реализацию и проверить метод на собственных сценариях. Однако наличие репозитория не отменяет необходимости сверить версии, настройки и условия бенчмарков с теми, которые использовали авторы.
Главная неопределённость для практического внедрения — переносимость правил между задачами и моделями. Авторы сообщают о проверке семи моделей, но приведённые в кратком описании результаты не доказывают, что одни и те же критерии запуска будут одинаково работать в новых агентных системах. Перед внедрением стоит проверить, как часто агент сжимает контекст, какие сведения попадают в сводку и ухудшается ли качество на незавершённых поисках или вычислениях.
SelfCompact предлагает разработчикам не новый способ увеличивать контекстное окно, а альтернативу сжатию по одному лишь счётчику. Следующий практический шаг — сопоставить правила из статьи с реальными трассами своего агента и измерять одновременно точность, стоимость и потери информации.
