OpenAI представила отчёт по верифицируемости AI-систем ещё в 2020 году — почему тема остаётся ключевой
В 2020 году OpenAI совместно с 58 соавторами из 30 организаций опубликовала доклад о механизмах верификации заявлений об AI-системах. Сегодня,...
Тема COMRAD404
AI-инфраструктура — страница 11
576 материалов
Саймон Уиллисон объяснил, когда AI-агентам нужен MCP
Терминальный агент с открытым доступом к сети может вызывать API напрямую. Но для продукта, где нужно ограничивать доступ к сервисам...
Meta выпустила патч для Muse после обнаружения zero-day, позволявшей управлять AI-агентом
Meta обновила macOS-версию Muse после исследования Патрика Уордла. Уязвимость позволяла локальному коду перенаправить транскрипцию на сторонний сервер и использовать полномочия...
GitHub открыл всем пользователям обновлённую страницу пул-реквестов
GitHub завершил публичное тестирование обновлённой страницы пул-реквестов. Интерфейс с новыми возможностями поиска и фильтрации стал доступен всем пользователям.
Как настроить MCP-сервер для доступа к файловой системе: разбор конфигурации и ограничений безопасности
Filesystem MCP — один из самых полезных, но и самых рискованных инструментов для Claude Desktop и других AI-клиентов. Разбираем, как...
GitHub Copilot внедрил механизм запросов на увеличение бюджета: теперь пользователи не остаются без кредитов
GitHub запустил функцию запросов на увеличение бюджета для Copilot Business и Enterprise. При исчерпании AI-кредитов пользователь может сразу отправить запрос...
OpenAI намерена купить Ona для развития долгоживущих агентов Codex
OpenAI объявила о планах приобрести Ona и использовать её защищённые постоянные облачные окружения в Codex. Сделка должна упростить выполнение длительных...
Как тестировать tool calling в LLM: метрики, сценарии и проверки в CI
Практическое руководство по регрессионному тестированию tool calling: проверяем выбор функции, аргументы, отказ от лишнего вызова и порядок действий, а затем...
Антимонопольная дилемма AI: почему ведущие лаборатории просят об исключении из правил конкуренции
Бывший глава антимонопольного отдела Минюста США Джонатан Кантер разбирает запросы OpenAI, Anthropic и Google DeepMind на координацию в сфере безопасности...
LoRA на аблейтированной модели: наследуемое поведение или результат дообучения? Разбор кейса
Инженер протестировал LoRA-адаптер, обученный на модели Qwen с удалённым механизмом отказа. Результат: улучшение по целевой задаче оказалось статистически незначимым, а...