В статье, датированной 14 октября 2026 года, MarkTechPost расставляет девять AI-шлюзов по критериям производительности, покрытия моделей, управления, развёртывания, стоимости и рисков поставщика. Для читателя это карта инфраструктурных различий: рейтинг помогает отделить самостоятельную установку от управляемого сервиса и сравнить заявленные показатели, но не заменяет собственный тест. Источник: MarkTechPost.
Что именно сравнивает рейтинг
В описании MarkTechPost AI-шлюз — это слой между приложением и поставщиками моделей. Он предоставляет единый API, а маршрутизацию запросов, повторы после ошибок, переключение на резервный провайдер, кэширование, бюджеты и журналы собирает в одном контуре.
Шесть критериев выбора
Автор публикации сообщает о шести критериях для производственного использования: свидетельствах производительности, охвате провайдеров и моделей, средствах управления, вариантах развёртывания, модели стоимости и рисках поставщика и цепочки поставок.
На практике это означает разные приоритеты. Для одной команды важны self-hosted, VPC или изолированная сеть, для другой — управляемый сервис. Сравнивать также приходится совместимость с провайдерами, виртуальные ключи, бюджеты, RBAC, журналы аудита, защитные функции, бесплатный уровень и возможную наценку.
Места в таблице и заявленные различия
В таблице MarkTechPost первое место занимает Bifrost, второе — Portkey, третье — LiteLLM, четвёртое — Kong AI Gateway, пятое — TrueFoundry. Далее идут Cloudflare, Vercel, OpenRouter и Orq.ai Router.
Для Bifrost публикация приводит заявленные накладные расходы 11 мкс при 5000 запросах в секунду, лицензию Apache 2.0 и варианты самостоятельного развёртывания, включая VPC и изолированные сети. Для Portkey указаны MIT-лицензия, доступ более чем к 1600 моделям, задержка менее 1 мс и размещённый тариф от 49 долларов в месяц. Для LiteLLM MarkTechPost приводит более 100 провайдеров, 53,8 тыс. звёзд на GitHub и задержку 8 мс на уровне P95 при 1000 запросах в секунду.
В кратком выводе статьи Bifrost назван вариантом для производительности при самостоятельной установке, Portkey — шлюзом с защитными функциями, LiteLLM — решением с наиболее широким распространением, а Kong AI Gateway — вариантом для API-платформ. Cloudflare, Vercel и OpenRouter отнесены к управляемым вариантам с разными акцентами: периферийное размещение, отсутствие наценки или доступ к моделям.
Как интерпретировать цифры
Приведённые 11 мкс для Bifrost, менее 1 мс для Portkey и 8 мс P95 для LiteLLM — показатели, которые MarkTechPost пересказывает из опубликованных данных и заявлений производителей. В доступном материале нет независимого тестирования всех девяти решений на одинаковой конфигурации, поэтому эти числа нельзя напрямую переносить на любую нагрузку.
Рейтинг полезен как первичный список вопросов к поставщику: где будет работать шлюз, какие провайдеры и модели он покрывает, какие есть средства контроля и как формируется счёт. Перед выбором нужно отдельно сверить эти условия с архитектурой и нагрузкой конкретного проекта.
