llm-echo 0.5 обновил симуляцию учёта токенов

18 октября 2026 года Simon Willison объявил о выпуске llm-echo 0.5. Плагин предоставляет модель-эхо, которая не обращается к языковой модели, а повторяет переданные ей промпты. В этой версии, по словам автора, симулируемый подсчёт токенов учитывает вызовы инструментов, системные промпты и токены рассуждений. Это позволяет использовать плагин для отладки передачи данных без генерации ответа настоящей LLM.

В публикации Simon Willison также приведена команда запуска с запросом hi there, опцией thinking и выводом статистики использования:

uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage

В приведённом результате есть строка «First I consider the prompt, then I decide what to say», затем выводятся запрос, пустое системное поле, пустой список вложений и пустая история предыдущих сообщений. Счётчик показывает 2 входных и 24 выходных токена. Это пример автора, а не измерение токенизации или стоимости настоящей модели.

Что меняется при отладке

Плагин-эхо нужен не для содержательного ответа на запрос: он возвращает переданные ему промпты. По описанию Willison, обновлённая симуляция счётчика теперь принимает во внимание три дополнительные категории: вызовы инструментов, системные промпты и токены рассуждений. Это может помочь разработчику посмотреть на передачу промпта и соответствующие симулируемые счётчики до обращения к настоящей LLM; источник не утверждает, что пример проверяет конкретную стороннюю интеграцию.

Что показывает пример — и чего он не доказывает

В опубликованном запуске явно видны запрос hi there, пустые значения системного поля, вложений и предыдущих сообщений, а также числа 2 входных и 24 выходных токена. Результат демонстрирует формат вывода одной команды. Он не подтверждает точность подсчёта для коммерческих моделей и не показывает работу со всеми возможными видами вложений или вызовов инструментов.

Willison описывает пример в публикации о релизе; независимого теста в доступных материалах нет. Там же не указаны цена, лицензия и совместимость. Поэтому сообщённые изменения следует понимать как возможности симуляции llm-echo 0.5, а показанные числа — как результат конкретного примера, не как прогноз реального расхода токенов.