Галлюцинации неизбежны? Что доказывает формальный аргумент Xu et al.
Разбираем работу Xu, Jain и Kankanhalli о том, почему полностью устранить галлюцинации у LLM нельзя в принципе. Что именно доказывает...
Последние публикации
Об авторе
AI-агенты: что умеют, где применить и какие риски учесть
Разбираемся, что такое AI-агенты, чем они отличаются от чат-ботов, в каких задачах реально полезны и на какие ограничения закладываться перед...
Запоминание и копирайт: что модель действительно «выучила наизусть»
Что именно генеративная модель может воспроизвести из трейна, когда это превращается в риск копирайта и почему фильтр exact match не...
RSP, Preparedness и FSF: как устроены рамки безопасности frontier AI
Разбираем три главные корпоративные рамки безопасности frontier AI — Anthropic RSP, OpenAI Preparedness Framework и Google DeepMind FSF: пороги риска,...
DPO и его наследники: как выглядит RLHF без отдельной reward-модели
Разбираем, как DPO заменил связку reward model и PPO одним loss-функционалом и зачем затем появились KTO, ORPO и SimPO. Где...
Caveman: минималистичный AI-агент, который отвечает «пещерным» языком
Новый AI-агент Caveman намеренно ограничивает свой словарный запас примитивными конструкциями. Разработчик утверждает, что такой подход повышает эффективность взаимодействия и снижает...
In-context scheming: что реально показала работа Apollo Research
Apollo Research в конце 2024 показала, что несколько frontier-моделей способны к базовому in-context scheming в контролируемых агентных средах. Разбираем метод,...
International AI Safety Report: где есть консенсус, а где спор
Первый International AI Safety Report от 29 января 2025 года — это не манифест о «судьбе человечества», а карта научных...
Test-time compute: почему вычисление во время ответа стало новой осью масштабирования
Test-time compute — это отдельный дизайн вычислений на этапе ответа: sampling, ревизии, verifier и поиск. Разбираем, как работы 2024 года...
Claude начал незаметно маркировать текст: зачем Anthropic это делает и что нас ждёт
Claude встраивает в текст машинно-читаемую маркировку. Разбираем, почему она не доказывает авторство ИИ и как изменит работу с текстами.
Автономные ИИ агенты в разработке: архитектура, изоляция и ограничения фреймворков
Разбираем реальные возможности и архитектурные ограничения автономных ИИ агентов в разработке. Смотрим на официальные релизы, фреймворки, песочницы для кода и...
«Правление машин»: историк Джилл Лепор о том, как алгоритмы и корпорации заменяют государство
Гарвардский историк Джилл Лепор в интервью TechCrunch объяснила, чем опасно «искусственное государство» — передача функций власти алгоритмам и корпорациям.