Reranker для RAG: как проверить, улучшает ли он поиск документов
Reranker для RAG может повысить точность контекста, но добавляет задержку и вычисления. Показываем воспроизводимый тест с CrossEncoder, метриками MRR и...
Тема COMRAD404
ИИ-агенты и инструменты для рабочих задач
Новости и разборы ИИ-агентов, сервисов и инструментов для автоматизации рабочих задач, программирования, исследований и контента.
Сколько стоит tool calling в AI-агенте: расчёт для GPT-4o, Claude 3.5 Sonnet и Gemini 2.0 Flash
Цена tool calling складывается из токенов в описаниях инструментов, аргументах функций, результатах API и истории диалога. Разбираем модель расчёта, сравниваем...
Как проверить, не утекают ли токены через tool calling: практический чеклист для разработчиков
Tool calling в LLM — удобный механизм, но он может стоить дороже, чем кажется. Разбираем, как измерить реальный расход токенов...
Как проверить MCP-сервер на утечку контекста: практический чеклист для разработчиков
MCP-серверы открывают прямой доступ к файловой системе, истории чатов и базам знаний агента. Разбираем, какие данные реально утекают, как это...
JSON Schema как предохранитель для tool calling: проверяем LLM-вызовы в CI
Контрактная проверка отделяет ошибки формата от смысловых сбоев AI-агента. Разбираем, как валидировать имя инструмента и его аргументы, организовать тестовые сценарии...
Семантическое кэширование для AI-агента: как снизить затраты на токены без потери качества ответов
Разбираем, как работает семантическое кэширование в AI-агентах: какие библиотеки и подходы реально снижают расход токенов, где возникают ложные срабатывания и...
Безопасность API-ключа: подключение шлюза без утечки секретов
API-ключи — самая ценная мишень для AI-агентов. Разбираем, как MCP-серверы, tool calling и подстановка контекста превращают учётные данные в уязвимость,...
Tool calling без сюрпризов: как построить контрактные тесты для LLM-агента
Ошибки в tool calling часто возникают не в бизнес-логике, а на границе между моделью и вашим API. Показываем, как зафиксировать...
Как рассчитать реальную стоимость AI-агента: метод оценки затрат на токены, вызовы API и время выполнения
Разбираем методику оценки стоимости работы AI-агента: от стоимости токенов и вызовов API до времени выполнения и затрат на инфраструктуру. Практический...
Как настроить семантическое кэширование для AI-агента: снижаем задержки и затраты на токены
Семантическое кэширование позволяет AI-агенту не переспрашивать LLM при похожих запросах, сокращая время ответа в 3–10 раз и экономя до 60%...