Стартап Traceforce, основанный Xia и Varun, представил решение для контроля безопасности AI-приложений на корпоративных устройствах. Продукт призван обеспечить видимость и управление использованием таких сервисов, как ChatGPT и Claude, непосредственно на ноутбуках, виртуальных машинах и других устройствах сотрудников.
Что предлагает Traceforce?
Система устанавливается как легковесный бинарный файл и расширение для браузера на каждое устройство. В течение 30 минут собираются данные об используемых AI-приложениях и их связях с другими источниками данных через MCP (Machine Configuration Protocol). Это позволяет ИТ-безопасности компаний получать полную картину использования AI, выявлять потенциально опасные действия и предотвращать инциденты.
| Punkt | Detail |
|---|---|
| Цель 1 | Стандартизированное обеспечение безопасной работы AI-ПО на устройствах сотрудников. |
| Цель 2 | Видимость действий AI-ПО для ИБ-отдела, раннее обнаружение и предотвращение угроз. |
| Механизм работы | Установка агента на устройство, сбор метаданных и телеметрии, мониторинг активности в реальном времени. |
| Сбор данных | По умолчанию — метаданные AI-приложений и MCP. Возможна инспекция вызовов инструментов для обнаружения и блокировки рискованных действий (локально). |
Разработчики подчеркивают, что Traceforce собирает в основном метаданные и телеметрию. Проверка содержимого происходит локально на устройстве, а пользовательские промпты не сохраняются, если это не настроено администратором безопасности. Такой подход, по словам создателей, дает сотрудникам уверенность в защите их рабочих станций.
Проект уже развернут на более чем 1000 устройств в 10 организациях. В среднем, на каждом устройстве обнаруживается свыше 15 AI-приложений, каждое из которых связано с 5-10 MCP. Traceforce помог выявить раскрытые в конфигурациях MCP секреты и предотвратить утечки.
Открытый исходный код
Для обнаружения уязвимых MCP предложен open-source инструмент mcp-xray.
Источник: Hacker News, Traceforce (YC S26) – Secure AI apps, one device at a time.
Верификация: https://www.anthropic.com/news