Consus представила шлюз для работы LLM с данными под ограничениями ITAR и CUI

Стартап Consus предлагает единый OpenAI-совместимый интерфейс, который маршрутизирует запросы к инфраструктуре с заданным уровнем соответствия требованиям. По заявлению компании, она прошла аудит эквивалентности FedRAMP High.

Интерфейс шлюза Consus для маршрутизации запросов к языковым моделям
Интерфейс шлюза Consus для маршрутизации запросов к языковым моделям
Visit of Ursula von der Leyen, President of the European Commission, to India (P-065755-00-36).jpg | by Europäische Kommission — Audiovisueller Dienst, CE — Service audiovisuel, EC — Audiovisual Service, Dati Bendo | wikimedia_commons | CC BY 4.0

На Hacker News представили Consus — шлюз для маршрутизации запросов к языковым моделям в инфраструктуру, предназначенную для работы с данными, подпадающими под ограничения ITAR и требования CUI. Основатель стартапа сообщает, что компания завершила аудит эквивалентности FedRAMP High по 410 контрольным требованиям.

Что предлагает Consus

По описанию основателя, сервис служит промежуточным слоем между AI-инструментом и моделью. Его можно подключать к совместимым приложениям и агентам через единый интерфейс, совместимый с API OpenAI, или использовать для интеграции собственных приложений компании.

Перед отправкой запроса шлюз проверяет ключи и применяет заданные политики. Важная особенность — обязательный суффикс соответствия в названии модели: например, `:fedramp-high` или `:itar`. Запрос с названием модели без такого суффикса, по словам основателя, отклоняется. Компания также заявляет, что не перенаправляет запросы на обычные коммерческие конечные точки моделей.

Зачем нужен отдельный слой

В аэрокосмической и оборонной отраслях выбор модели определяется не только её возможностями: имеет значение, где она размещена и какие требования применяются к данным. Основатель Consus утверждает, что разные модели доступны в разных облачных средах, а компании часто не используют все облачные платформы, на которых они могут работать.

Шлюз должен скрыть эту сложность за единым подключением и дать организациям возможность ограничивать доступные модели и расходы. Практический смысл подхода — попытаться сохранить привычный интерфейс для AI-инструментов, не отправляя запросы напрямую в стандартные коммерческие сервисы.

Что подтверждено, а что пока нет

Сведения о завершении аудита, маршрутизации и механизме суффиксов приведены в публикации основателя на Hacker News. В доступном описании нет независимого подтверждения аудита, подробностей о его результатах или списка моделей и сред, доступных клиентам. Само заявление об эквивалентности FedRAMP High не следует автоматически считать федеральной авторизацией или подтверждением соответствия любой конкретной конфигурации требованиям ITAR и CUI.

Для потенциальных заказчиков важны детали реализации: где именно обрабатываются запросы, как управляются журналы и ключи, какие гарантии действуют для каждого поставщика модели и как подтверждается соблюдение требований в конкретном сценарии. Публикация не даёт достаточных сведений, чтобы оценить эти вопросы или независимо проверить безопасность сервиса.

Источники:
— Публикация Consus на Hacker News