На Hacker News обсуждается запуск Traceforce (YC S26) — системы для мониторинга безопасности ИИ-приложений в масштабах всей компании. Разработчики предлагают решение, которое обеспечивает видимость и контроль над использованием таких инструментов, как ChatGPT и Claude, на всех корпоративных устройствах.
Ключевая проблема, которую призвано решить решение, заключается в стремительном внедрении новых ИИ-функций в рабочие процессы. Это создает пробелы в видимости и контроле для команд безопасности, что может привести к непреднамеренным утечкам данных или другим инцидентам.
Что предлагает Traceforce
Traceforce устанавливается как легковесный бинарный файл и расширение для браузера на каждом устройстве. В течение 30 минут система начинает передавать данные на централизованный дашборд, отображая все запущенные ИИ-агенты и приложения. Команды безопасности могут отслеживать активность в реальном времени, применять политики контроля и получать оповещения о потенциальных рисках.
| Пункт | Деталь |
|---|---|
| Назначение | Обеспечение безопасного использования ИИ-софта сотрудниками и предоставление командам безопасности видимости для предотвращения инцидентов. |
| Принцип работы | Установка на устройства, сбор метаданных и телеметрии об ИИ-приложениях, выявление уязвимостей в соединениях через MCP (Multi-Cloud Platform). |
| Сбор данных | По умолчанию собираются только метаданные. Возможность инспекции вызовов инструментов для обнаружения и блокировки рискованных действий. |
| Безопасность | Инспекция контента происходит локально. Промпты пользователей не хранятся, если это не настроено администратором безопасности. |
| Открытый исходный код | Представлен инструмент для пентестинга MCP: https://github.com/traceforce/mcp-xray |
Почему это важно
Разработчики подчеркивают, что решение не замедляет работу пользователей и обеспечивает им уверенность в безопасности своих устройств. По словам основателей, более 50 CISOs и CIOs подтвердили острую потребность в подобных инструментах.
Остаются вопросы относительно полноты обнаружения всех типов подключений и потенциального влияния на производительность при включении глубокой инспекции. Также стоит изучить, как Traceforce обрабатывает специфические корпоративные конфигурации и политики конфиденциальности.
Источник: https://news.ycombinator.com/item?id=48937020
Верификация: https://www.anthropic.com/news