Тема COMRAD404

LLM — страница 9

372 материалов

Большой контекст побеждает гиперкоррекцию: новый SOTA для GEC без дообучения

Исследователи представили метод, позволяющий LLM исправлять грамматические ошибки с точностью, почти не уступающей тонко настроенным моделям, используя только промпты и...

ToolGrad: как перевернуть обучение ИИ-агентов и сэкономить на датасетах

Google представила ToolGrad — фреймворк, который генерирует датасеты для обучения ИИ-агентов, переворачивая стандартный подход: сначала создаётся цепочка вызовов инструментов, а...

Автоматизация контекста в LangGraph: как настроить персистентную память и checkpoints на практике

Разбираем, как работают персистентные checkpoints и управление историей сообщений в LangGraph. Настраиваем сохранение состояний через SQLiteSaver, контролируем размер памяти и...

Как настроить локальное кеширование контекста в Ollama для LLM-агентов: архитектура, память и реальная экономия

Разбираем внутреннюю архитектуру кеширования контекста в Ollama, настраиваем параметры KV-cache для автономных агентов и замеряем реальное ускорение генерации при многошаговых...

Новая техника PAC-приватности для автогенерации: меньше шума при стабильных предсказаниях

Исследователи представили метод PAC-Private Autoregressive Generation, который калибрует шум на основе разброса мнений ансамбля моделей, адаптированных на приватных данных. Это...

Память LLM-агентам нужна, но не любая: MERIT оценивает цену и пользу

Исследователи представили MERIT — бенчмарк для измерения предельной полезности долговременной памяти у LLM-агентов, выполняющих инструментальные задачи. Результаты показывают, что память...