«AI не злой. Люди безответственны» — разбор инцидентов OpenAI и Anthropic
В Reddit набирает обороты пост, в котором утверждается: последние «побеги» AI-агентов — не признаки сознания, а следствие халатности разработчиков. Разбираем...
Тема COMRAD404
генерация видео — страница 36
1082 материалов
GitHub разрешил передавать Copilot до 25 находок Code Quality за один запуск
GitHub добавил массовый agentic autofix для Code Quality: Copilot исправляет до 25 стандартных находок на отдельной ветке, проверяет изменения и...
Hugging Face обошла GAIA: кодовые агенты без JSON и песочница для Python из коробки
Инженеры Hugging Face представили библиотеку smolagents для создания ИИ-агентов, выполняющих задачи через генерацию Python-кода и безопасный песочный интерпретатор. Разработка заняла...
Как оценивать стабильность контекста в LLM-агентах: разбор метрик, уязвимостей к «забыванию» и методов проверки
Разбираем, как измерять сохранение контекста в автономных LLM-агентах при длительных сессиях, почему стандартное окно токенов не гарантирует устойчивость рассуждений и...
OpenAI выпустила system card для o1: что известно о проверках безопасности модели рассуждений
OpenAI опубликовала system card для o1 и o1-mini: документ описывает red teaming, оценки frontier-рисков и ограничения перед выпуском моделей.
Real-SWE: Новый бенчмарк проверяет AI-агентов на реальных корпоративных кодовых базах
Разработчики представили Real-SWE — бенчмарк, который тестирует AI-модели на приватных, коммерческих кодовых базах. В отличие от синтетических задач, здесь используются...
OpenAI опубликовала System Card для deep research — детальный отчёт о безопасности и рисках
OpenAI выпустила System Card для функции deep research в ChatGPT. Документ описывает внешний red teaming, оценку frontier-рисков и внедрённые средства...
Trail of Bits проверила Gradio 5 на безопасность: аудит закрыл критические уязвимости в ML-фреймворке
Hugging Face опубликовала результаты независимого аудита безопасности Gradio 5, проведённого компанией Trail of Bits. Все выявленные уязвимости были устранены до...
Transformers.js v3 переводит машинное обучение в браузере из демо в инженерную задачу
Transformers.js v3 добавляет WebGPU, новые форматы квантования и более гибкую настройку моделей. Главное изменение — не сам переключатель device: "webgpu",...
RAG: почему «дополненная генерация» стала главным лекарством от галлюцинаций ИИ
RAG (Retrieval-Augmented Generation) — техника, соединяющая языковые модели с внешними базами знаний. Разбираем, как она работает, где используется и почему...