Промпт-инъекции: как защитить LLM-агентов от скрытых команд
Косвенные промпт-инъекции — главная угроза для агентов с доступом к браузеру, почте и API. Объясняем, чем прямая атака отличается от...
Тема COMRAD404
ИИ-агенты и инструменты для рабочих задач
Новости и разборы ИИ-агентов, сервисов и инструментов для автоматизации рабочих задач, программирования, исследований и контента.
Исследование OpenClaw: уязвимости в бронировании и проблемы безопасности API
Новое исследование безопасности от OpenClaw демонстрирует критические уязвимости логики авторизации в API систем бронирования на примере австралийского фитнес-сервиса.
Meta выпустила Muse Glimmer: открытая мультимодальная модель 30B для локальных агентов
Meta представила Muse Glimmer — дистиллированную до 30B параметров мультимодальную модель под лицензией Apache 2.0 для локальных агентных сценариев: код,...
NVIDIA представила NemotronLabs VoiceChat 11B: открытую full-duplex модель для живого общения и вызова инструментов
Новая речевая модель от NVIDIA объединяет распознавание и синтез речи в единой гибридной сети Mamba/Transformer, обеспечивая задержку отклика около 450...
Сервис GitHub Models официально прекратил работу: разработчики ищут альтернативы
Инструмент GitHub Models официально завершил свою работу. Разработчики, использовавшие встроенный токеновый доступ для CI/CD-пайплайнов и генерации документации, теперь вынуждены перестраивать...
Полный пайплайн анализа тональности: TF‑IDF, DistilBERT с LoRA, калибровка и полу‑обучение — новый туториал
Опубликован подробный туториал по построению end‑to‑end пайплайна анализа тональности: от классического TF‑IDF до параметро‑эффективной тонкой настройки DistilBERT с LoRA, с...
Как локальные LLM меняют разработку: обзор инструментов и фреймворков для автономных агентов
Разбор актуальных фреймворков, локальных моделей и инструментов автоматизации для разработчиков, внедряющих ИИ-агентов в рабочие процессы без передачи данных сторонним вендорам.
Исследователи из Стэнфорда и Северо-Восточного университета представили Shepherd: среду выполнения для ИИ-агентов с поддержкой откатов и форков
Новый инструмент Shepherd с открытым исходным кодом записывает взаимодействия ИИ-агентов с окружением в виде структурированных событий. Это позволяет откатывать состояние...
OpenAI приобрела стартап NextSlide для интеграции генерации презентаций в ChatGPT
Команда разработчиков сервиса автоматического создания презентаций NextSlide перешла в OpenAI. Технологию планируют использовать для улучшения возможностей ChatGPT по превращению текстов...
Grok Imagine 2.0: генератор изображений с сегментным редактированием
На Product Hunt появилась запись о Grok Imagine 2.0 — обновлённом генераторе изображений с заявленным сегментным редактированием. Разбираем, что известно...