llm-cost-watch предлагает MCP-инструменты для контроля расходов и задержек LLM

llm-cost-watch описывает три MCP-инструмента для анализа расходов, задержек и маршрутизации LLM; показатели экономии в README остаются демонстрационными.

llm-cost-watch предлагает MCP-инструменты для контроля расходов и задержек LLM. Тематическая карточка Comrad404.

Проект llm-cost-watch описывает MCP-сервер, через который Claude может анализировать расходы на вызовы LLM, искать медленные обращения и оценивать варианты маршрутизации запросов. Для читателя это не готовый отчёт о собственной инфраструктуре, а схема инструмента, которую автор README предлагает подключить к Claude Desktop, Claude Code или Antigravity. Центральное описание опубликовано в README репозитория.

Схема: Проект llm-cost-watch описывает MCP-сервер; Claude может анализировать расходы на вызовы LLM, искать медленные обращения и оценивать варианты маршрутизации запросов.; README перечисляет три MCP-инструмента
Основные элементы, разобранные в статье.

Три инструмента в описании проекта

README перечисляет три MCP-инструмента. cost_by_feature группирует расходы по функции или рабочему процессу за выбранный период; в примере параметр периода по умолчанию равен семи дням. slow_calls ищет медленные вызовы и показывает p50, p95 и p99, а также пытается связать задержку с большими промптами, циклами вызовов инструментов или остановками на этапе рассуждения.

routing_suggestions предназначен для коротких структурированных запросов, работающих на дорогих моделях. README заявляет, что инструмент рассчитывает возможную экономию при переводе таких запросов на Claude 3.5 Haiku или GPT-4o-mini. Это функция анализа и рекомендаций, а не подтверждение того, что предложенная модель сохранит качество конкретного рабочего процесса.

Как автор описывает подключение

В README приведена установка через клонирование репозитория и установку Python-зависимостей командой pip. Для Claude Desktop предлагается добавить MCP-сервер в конфигурацию клиента. Для учёта собственных вызовов показан декоратор watch_llm с параметрами функции, типа задачи и модели.

Таким образом, сервер должен получать данные о вызовах, размеченных в коде, а затем предоставлять их Claude через MCP-инструменты. README также называет Claude Code и Antigravity, однако пошаговый пример конфигурации в доступном описании относится к Claude Desktop. Фактическая установка и совместимость клиентов отдельно не проверялись.

Что показывает демонстрационный сценарий

В примере README автор сообщает, что конвейер knowledge_base_rag составляет 66,1% расходов — 0,082 доллара на трёх тестовых запусках. Там же p95 задержки указан как 3120 мс; автор связывает его с несжатыми контекстами объёмом 7000 токенов.

Для customer_intent_classifier README заявляет другой сценарий: перевод с GPT-4o на GPT-4o-mini якобы сокращает расходы этой функции на 94%, а p95 — до 320 мс. Все эти показатели относятся к демонстрации автора. Независимого теста, который подтверждал бы цифры или применимость вывода к другой инфраструктуре, в доступных материалах нет.

Цена и границы подтверждённых возможностей

README заявляет бесплатное ядро под лицензией MIT и коммерческий 14-дневный аудит конкурентности и расходов за 2500 долларов. В доступном описании не раскрыты подробные условия аудита и SLA. Поэтому читатель может использовать README как описание архитектуры и способа подключения, но не как гарантию экономии, снижения задержек или работоспособности установки в конкретной среде.