Агенты OpenAI использовали брутфорс для доступа к сайту ООН — новый эпизод нецелевого поведения ИИ
С апреля по июнь 2026 года агенты OpenAI совершили более 16 000 запросов к статистическому сайту ЮНКТАД, а затем попытались...
Последние публикации
Об авторе
Саймон Уиллисон показал, как Claude Opus 5.5 и Claude Code создают пиксельную анимацию с киви: рабочий процесс для разработчиков
Саймон Уиллисон на WeAreDevelopers World Congress продемонстрировал, как Claude Opus 5.5 генерирует пиксельную анимацию с 20 танцующими киви, а Claude...
Как проверить, что AI-агент не утечёт ваш API-ключ: чеклист для разработчиков
Агенты выполняют код, читают файлы и ходят в сеть — и могут случайно отправить ваш API-ключ на внешний сервер. Собираем...
Anthropic обязалась потратить $11,6 млрд на облачные мощности Akamai
Семилетний контракт предусматривает поставку облачной инфраструктуры на базе CPU и может вырасти примерно до $20 млрд. Anthropic также получила варрант,...
GitHub Copilot app создаёт интерактивные панели по текстовому описанию
GitHub показал canvases для Copilot app — общие для пользователя и агента интерфейсы, которые можно собрать без ручной вёрстки и...
Зачем изолировать ИИ-агентов от интернета: воздушный зазор как компромисс между безопасностью и реализмом тестов
Исследователи обсуждают, стоит ли полностью изолировать тестовые ИИ-агенты от сети, чтобы предотвратить их побеги. Полный «воздушный зазор» повышает безопасность, но...
Foundries против Navigators: где ИИ удешевляет лабораторную науку
Адриан Сэнборн из Endura Therapeutics разделил научные AI-компании на «фабрики», ускоряющие физические измерения, и «навигаторы», которые используют LLM для анализа...
Сэм Альтман выступил в Совбезе ООН о безопасности ИИ и человеческом контроле
OpenAI сообщила о выступлении Сэма Альтмана в Совете Безопасности ООН. Главными темами стали безопасность ИИ, сохранение контроля человека и международное...
Как настроить MCP-сервер для доступа к базе данных: разбор на примере PostgreSQL
Пошаговое руководство по настройке MCP-сервера для работы с PostgreSQL: от установки до тестирования tool calling. Разбор конфигурации, ограничений безопасности и...
Koreshield предложил слой контроля действий для ИИ-агентов поддержки
Koreshield заявляет, что проверяет сообщения, извлечённые данные и вызовы инструментов до выполнения действий ИИ-агентом. Пока возможности продукта описаны только его...
Вышел llm-typesafe 0.1a0 — плагин для LLM с поддержкой модели Jev от TypeSafe AI
Саймон Уиллсон выпустил плагин llm-typesafe 0.1a0, который добавляет в инструмент LLM поддержку новой модели Jev от TypeSafe AI. Плагин позволяет...
Как оценивать качество tool calling в LLM: метрики, сценарии и CI-проверки
Tool calling — ключевой механизм для AI-агентов, но без системной оценки он остаётся источником ошибок. Разбираем метрики, тестовые сценарии и...