Саймон Уиллисон назвал три инженерных текста, полезных для команд, строящих LLM-продукты
Саймон Уиллисон в комментарии на Lobste.rs выделил три статьи, повлиявшие на его инженерное мышление: о дырявых абстракциях, миграциях и карьерном...
Тема COMRAD404
LLM — страница 7
372 материалов
Вызов инструментов LLM: как проверить tool calling до продакшена
Вызов инструментов LLM ломается не только на JSON. Практический чек-лист для eval-набора: выбор нужного tool, валидность аргументов, отказ от лишних...
LLM-агенты получат систему предварительной верификации: новый подход к предотвращению «тихих» ошибок
Исследователи предлагают проверять действия LLM-агента до их выполнения, чтобы избежать «тихих» ошибок. Метод показал 95,8% точности для shell-команд и снизил...
RIPPLE: новый метод адаптации промптов для синтеза исполняемых рабочих процессов
Исследователи представили RIPPLE — метод, разделяющий локализацию правок промптов и проверку их безопасности после композиции. Алгоритм повышает успешность валидации до...
Chopthin-консенсус: как сохранить разнообразие траекторий при декодировании LLM без дообучения
Метод CCPS (Chopthin-Consensus Power Sampling) предлагает новый подход к сэмплированию на этапе инференса LLM, заменяя агрессивное обнуление весов на их...
Эволюция стратегий генерации текстов: разбор алгоритмов декодирования от Hugging Face для разработчиков LLM
Команда Hugging Face обновила фундаментальное руководство по стратегиям генерации текста в библиотеке Transformers. Разбираем особенности Greedy Search, Beam Search и...
Персистентное состояние в LangGraph: настройка SQLite и PostgreSQL checkpointer для российских AI-агентов
Как настроить MemorySaver, SQLite и PostgreSQL в LangGraph для сохранения состояния агентов. Разбор checkpointer, управление контекстом и отказоустойчивость в продакшене.
Как оценивать стабильность контекста в LLM-агентах: разбор метрик, уязвимостей к «забыванию» и методов проверки
Разбираем, как длинный контекст в LLM-агентах подвергается деградации, почему стандартные тесты не видят «забывания» инструкций и какие метрики помогают измерить...
RLT предлагает переносить состояние декодера между токенами — пока без кода и тестов
В техническом описании Recurrent Looped Transformer предложена архитектура, которая сохраняет финальное состояние рекуррентного декодера между токенами. Конфигурация с 48 слоями...
Модель знала ответ, но молчала: исследователь показал, как ИИ управляет гранью между знанием и отказом
Исследователь продемонстрировал, что языковая модель может содержать правильный ответ на токенном уровне, но не выдавать его из-за работы отдельного «шлюза...