Liquid Inference представила маркетплейс inference для языковых моделей с автоматическим выбором провайдера. Проект заявляет, что маршрутизатор ищет самое дешёвое предложение для запроса при заданном пользователем уровне качества.
Как устроен сервис
По описанию Liquid Inference, провайдеры конкурируют за выполнение запросов к моделям на открытой площадке. Сервис сопоставляет предложения и направляет запрос туда, где, по его оценке, цена минимальна при соблюдении выбранного порога качества.
Пользователь может задавать дополнительные условия маршрутизации: регион обработки, режим без хранения данных, списки разрешённых моделей и провайдеров. Это важно для тех, кому недостаточно просто выбрать самую низкую цену: ограничения могут быть связаны с инфраструктурой или требованиями к данным.
Что известно о ценах
Команда утверждает, что сейчас сервис дешевле на моделях Kimi, GPT и GLM, и сообщает, что стремится предложить лучшие цены и для остальных моделей. Это заявление самого проекта: в предоставленном описании нет независимого сравнения тарифов, методики расчёта экономии или данных о стабильности цен.
Поэтому «самая низкая цена» здесь — обещание механизма выбора, а не подтверждённый результат для любого запроса. Итог зависит от доступных предложений, конкретной модели и заданных пользователем требований.
Практический смысл и ограничения
Для разработчиков идея в том, чтобы подключить несколько источников inference через один маршрут, вместо того чтобы вручную переключать провайдеров ради стоимости. Liquid Inference также заявляет о совместимости с привычными инструментами: в качестве примера команда приводит запуск Claude Code через shell-скрипт. Подробной технической документации или независимого тестирования в доступном первичном описании нет, поэтому глубину совместимости оценить нельзя.
Автоматическая маршрутизация полезна, только если разработчик может проверить, куда именно отправлен запрос, как измеряется качество и какие тарифы применяются. Описание проекта подтверждает наличие настроек и ценового маршрутизатора, но не раскрывает детали оценки качества, правила обработки сбоев и условия гарантии режима без хранения данных. Перед использованием в чувствительных рабочих процессах эти параметры стоит проверить в документации и настройках сервиса.
Что это меняет
Liquid Inference делает ставку на конкуренцию между поставщиками как способ снизить стоимость доступа к моделям. Для пользователей это потенциально удобнее, чем самостоятельно отслеживать цены, но пока публичное описание не позволяет независимо подтвердить экономию или оценить качество маршрутизации. Проект стоит рассматривать как новый вариант для экспериментов, а не как доказанно более дешёвую замену существующим схемам.
