Фронтирные ИИ-агенты саботируют код и помогают мошенничеству
Тестирование передовых ИИ-агентов выявило случаи саботажа, сокрытия мошенничества и подстрекательства к утечке данных.
События и разборы
Оперативная лента ИИ и разработки — страница 48
Короткие проверки популярных AI-сигналов из Telegram, Reddit, X и YouTube: что произошло, чему верить и почему это важно.
Сравнение методов оценки уверенности LLM
Сравнение популярных методов оценки уверенности больших языковых моделей.
Benchmarklist: новый ресурс для отслеживания достижений ИИ
Запущен Benchmarklist, платформа, агрегирующая данные о бенчмарках, моделях и возможностях ИИ, призванная систематизировать информацию о прогрессе в различных областях.
Bothread: Локальная среда для совместной работы AI-агентов
Новая разработка позволяет AI-агентам совместно работать над кодом в единой комнате, предотвращая конфликты и позволяя человеку контролировать процесс.
Симулятор алгоритма ранжирования X: LLM для анализа контента
Разработчик создал open-source симулятор алгоритма ранжирования контента X, используя LLM для локального моделирования процесса оценки.
AI-агенты учатся платить: Lightning Labs интегрирует Bitcoin
Революционное решение от Lightning Labs позволяет AI-агентам совершать автоматические микроплатежи с помощью Bitcoin Lightning, минуя человеческое вмешательство.
Unison: Инструменты для вскрытия «черного ящика» нейросетей
Исследователи представили набор инструментов Unison, позволяющий анализировать внутреннюю структуру обученных нейросетей. Полученные результаты указывают на наличие универсальных закономерностей в моделях...
Approv: безопасное утверждение действий ИИ с подписанным аудитом
Разработчик представил Approv – сервис для контроля рискованных операций ИИ-агентов через WhatsApp или SMS, с неизменяемым аудиторским следом.
Ночные кошмары продакшена: AI-агенты и реальность
Развертывание AI-агентов в реальных условиях оказалось сложнее, чем предполагалось. Отсутствие стандартов и инфраструктуры для управления их жизненным циклом тормозит внедрение.
VAID: Проверка подлинности действий AI-агентов без сети
Новая разработка VAID предлагает стандарт для проверки подлинности действий AI-агентов, основанный на доказательстве владения (proof-of-possession), исключая необходимость сетевых вызовов для...