Автор показывает Harness Router — опенсорсный роутер инструментов для агентных систем. Вместо того чтобы позволять LLM вслепую выбирать из кучи доступных инструментов, проект добавляет прослойку с проверкой: перед каждым вызовом инструмента система может пропустить, перепланировать или промоделировать тысячи вариантов через Monte Carlo Tree Search.
Интересна механика Codex hooks: SessionStart собирает список доступных инструментов один раз, а PreToolUse сверяет каждый предложенный вызов — если модель выбрала то же, что роутер, пропускаем, если есть вариант лучше, перепланируем. В случае отказа роутера — fail-open, то есть без блокировки.
Автор спрашивает, как бенчмаркать качество маршрутизации, и сам подкидывает идею: взять наборы инструментов с намеренно запутанными именами вроде get_x, fetch_x, read_x, где обычный выбор начинает сбоить. Это хороший пример практического подхода к снижению токенов и лишних вызовов — без громких обещаний, просто рабочий инструмент.




