Тема COMRAD404
arXiv:2609.10724. Исследователи предлагают оценивать ИИ-агентов не только по успешности выполнения задач, но и по двум новым параметрам: операционная устойчивость и...
Bastiontrace анализирует JSONL-трейсы вызовов инструментов AI-агента, находит следы промпт-инъекции, определяет точку входа, заражённые вызовы и конечное запрещённое действие. Инструмент не...
Исследователи представили метод, позволяющий LLM исправлять грамматические ошибки с точностью, почти не уступающей тонко настроенным моделям, используя только промпты и...
Новый метод калибровки уверенности для агентных систем, основанный на анализе внутренних представлений модели, показывает эффективность на бенчмарках Bash, SQL и...
Исследователи представили GeoSteer — метод управления поведением LLM через серию малых геодезических шагов на многообразии активаций, заменяющий одношаговые правки и...
Исследователи представили OpenDiscoveryTrace — публичный датасет из 558 полных траекторий AI-агентов. Данные показывают, что Claude Opus 4.6 ошибается в 30...
Показан на Hacker News проект MaruCheck — локальный инструмент верификации, который сверяет код, сгенерированный ИИ, с отдельным человеческим контрактом. Если...
Разработчик представил приложение, объединяющее локальные и облачные LLM с общей памятью, и вынес на обсуждение Hacker News вопрос монетизации.
Исследователи представили метод PAC-Private Autoregressive Generation, который калибрует шум на основе разброса мнений ансамбля моделей, адаптированных на приватных данных. Это...
Исследователи представили MERIT — бенчмарк для измерения предельной полезности долговременной памяти у LLM-агентов, выполняющих инструментальные задачи. Результаты показывают, что память...
