Стоимость фронтирных моделей и взрывной рост популярности open-weight решений делают модель-роутинг одной из ключевых практик корпоративного ИИ. В интервью изданию Latent Space генеральный директор Glean Арвинд Джайн объяснил, как его компания строит систему динамического выбора LLM для каждой задачи и почему за последние три месяца интерес enterprise-клиентов к открытым моделям вырос кардинально.
Glean, основанная экс-инженером Google Арвиндом Джайном, специализируется на внедрении ИИ в крупных организациях. Компания оценивается в 7,2 млрд долларов после раунда Series F на 150 млн в июне 2025 года и достигла 300 млн долларов годовой повторяющейся выручки (ARR) — трехкратный рост за 15 месяцев. Часть этой выручки обеспечивает система автоматического выбора модели для каждого пользовательского запроса.
Ключевые факты
| Параметр | Значение |
|—|—|
| ARR Glean | 300 млн долларов (рост в 3 раза за 15 месяцев) |
| Оценка компании | 7,2 млрд долларов |
| Заявленная экономия против Claude Code | 4x, в среднем 0,45 доллара за задачу против 1,84 доллара |
| Динамика интереса к open-source | Рост за последние 3 месяца — с «мизерного» до ключевого элемента стратегии |
Почему модель-роутинг стал необходимостью
По словам Джайна, главный драйвер внедрения модель-роутинга — стоимость. Фронтирные модели становятся мощнее, но и дороже: новые версии GPT и Opus на токен стоят вдвое-вчетверо больше предыдущих, а пользователи запускают на них всё более длительные задачи. В результате затраты на одного пользователя за год выросли в 10–20 раз.
«Большая цель Glean — избегать использования LLM для задач, где они не нужны, — пояснил Джайн. — Иногда в Glean приходят запросы, где люди складывают или умножают два числа. Они могли бы использовать калькулятор».
Система Glean предлагает три уровня выбора модели: сотрудник может явно выбрать модель; администратор может ограничить доступ или установить лимиты; автоматический режим выбирает модель динамически для каждой задачи. Именно автоматический режим, по данным компании, выбирают большинство клиентов — из экономических соображений.
Архитектура: Waldo и человеческий фидбек
Ключевой элемент системы — модель Waldo, представленная в апреле 2025 года как «первая агентная поисковая модель» Glean. Waldo работает поверх LLM: он решает, как разбить вопрос, какие инструменты использовать, что прочитать дальше и когда передать задачу фронтирной модели для финального ответа. Компания утверждает, что такой подход снижает задержку на 50% и сокращает расход токенов на 25%.
«Мы собираем сырые материалы, необходимые для выполнения работы, не сжигая токены LLM», — отметил Джайн.
Другое преимущество Glean — доступ к реальному поведению пользователей. Среди клиентов компании — Zillow с 80% внедрения среди 7000 сотрудников и Booking.com, где Glean стала первой общепринятой AI-платформой. Это позволяет наблюдать, какие модели выбирают пользователи для разных типов задач и когда они переключаются на более дорогие модели из-за неудовлетворенности результатом.
«Мы видим, что люди действительно делают с ИИ в широком масштабе, — сказал Джайн. — Когда они на разных типах задач, какие модели выбирают первыми, и когда они не удовлетворены, когда переходят на другую модель, которая дает правильный результат».
Этот человеческий фидбек в масштабе используется для улучшения системы роутинга.
Резкий поворот к open-weight моделям
Джайн подтвердил значительный рост интереса enterprise-клиентов к моделям с открытыми весами, таким как Kimi K3 и Qwen3.8-Max. Однако этот тренд возник только за последние три месяца.
«В прошлом году использование open-source было мизерным, и никто серьезно не рассматривал открытые модели, — отметил Джайн. — Отчасти из-за стигмы: многие из этих моделей разрабатывались за пределами США».
Но рост стоимости фронтирных моделей изменил ситуацию. «За последние три месяца, поскольку ИИ стал таким дорогим, бизнесу стало трудно поддерживать эти инвестиции, — пояснил Джайн. — Учитывая, что open source на порядок дешевле для выполнения задач, это создало огромный интерес. Сегодня в большинстве предприятий открытые модели рассматриваются как ключевая часть стратегии ИИ».
Что это значит для разработчиков и архитекторов
Для технической аудитории Comrad404 кейс Glean демонстрирует несколько важных практик: модель-роутинг становится не опцией, а обязательным слоем инфраструктуры для enterprise; агентная модель-посредник (Waldo) может значительно снизить затраты без потери качества; человеческий фидбек в масштабе — ключевой источник данных для оптимизации выбора модели; open-weight модели перестали быть экспериментальными и становятся основой корпоративных стратегий.
При этом важно учитывать: Glean — вендор с собственными коммерческими интересами, и заявленная четырехкратная экономия против Claude Code требует независимой верификации. Тем не менее, описанные тренды подтверждаются и другими сигналами рынка, включая недавнее приобретение OpenRouter компанией Stripe за 7 млрд долларов.
Источник: Latent Space — Frontier Model Cost and Open-Weights Popularity is Driving Demand for Model Routing
Datos clave
| Punto | Detalle |
|---|---|
| Fuente | Latent Space |
| Fecha | 2026-08-18T21:41:10+00:00 |
| Tema | Frontier Model Cost and Open-Weights Popularity is Driving Demand for Model Routing |