Shepherd предлагает откатывать действия ИИ-агентов и перехватывать отправку писем

Shepherd сохраняет историю действий ИИ-агента в виде графа, позволяет откатить ошибочный шаг и задержать отправку письма до решения мета-агента или человека.

Shepherd предлагает откатывать действия ИИ-агентов и перехватывать отправку писем. Тематическая карточка Comrad404.

19 ноября 2026 года IEEE Spectrum рассказал о Shepherd — исследовательской системе для надзора за действиями ИИ-агентов. Она позволяет отслеживать их историю, возвращать агента к предыдущему состоянию и пробовать другой путь; в описанном примере песочница задерживает отправку письма до решения мета-агента или человека.

Shepherd разработала команда исследователей Northeastern University и Stanford University. Идея — добавить к агенту отдельный уровень надзора, который может наблюдать за его работой и вмешаться, если действие оказалось ошибочным.

История действий хранится как граф

По описанию IEEE Spectrum, действия агента, его состояние и релевантная среда — например, почтовый ящик или файловая система — сохраняются в виде коммитов. Из них складывается граф действий. Мета-агент может перемещаться по нему, наблюдать за работой агента-исполнителя, перехватить ошибочное действие и вернуть агента к предыдущему шагу.

После отката мета-агент может создать отдельную ветку и продолжить другим путём. Такая схема напоминает системы контроля версий, но применяется не только к коду: в графе учитываются также состояние агента и среда, с которой он взаимодействует.

Песочница может задержать внешнее действие

В приведённом IEEE Spectrum примере агенту может казаться, что он отправляет письмо обычным способом, хотя действие перехватывает песочница Shepherd. Затем мета-агент или человек решает, отправлять ли письмо фактически. Это позволяет вмешаться до выполнения такого действия, если оно проходит через песочницу.

Контроль зависит от того, какие действия перехватываются и как настроен надзор. Публикация не описывает подробные условия настройки механизма.

В статье описаны два сценария применения

В одном сценарии супервизор вмешивался при конфликте между параллельными программирующими агентами. IEEE Spectrum сообщает, что это помогло повысить показатель успешного парного программирования на конкретном бенчмарке, но численные результаты в тексте не приводит.

В другом сценарии мета-агент предлагал точечные изменения в завершённом рабочем процессе и проверял их, повторно проигрывая только затронутые части запуска. По сообщению IEEE Spectrum, это помогло улучшить производительность. Источник также начинает упоминать обучающий сценарий, но доступный текст не раскрывает его устройство и результат.

Что известно о результатах и доступности

IEEE Spectrum сообщил, что сопутствующую статью команда планировала представить на конференции NeurIPS в декабре 2026 года. Описанные результаты относятся к демонстрационным сценариям команды: численные показатели в материале не приведены, а независимые испытания и доступность Shepherd как массового продукта не подтверждены.

Источник: IEEE Spectrum, 19 ноября 2026 года.