Anthropic Economic Index: какие профессии реально используют ИИ
Разбираем Anthropic Economic Index 2025: как Claude сопоставляли с профессиями через O*NET, почему лидируют кодинг и письмо, что показали API-данные и где у метода...
Открыть материал →
Последние публикации
LATEST
OpenAI Operator: как устроен агент в браузере и что показал запуск 2025 года
Разбираем Operator в исторической версии запуска 23 января 2025 года: как модель CUA видит веб через скриншоты, где выигрывает, где ошибается и какие ограничения...
Открыть материал →
«Physics of Language Models»: сколько знаний помещается в параметрах LLM
Разбираем работу Meta и MBZUAI о том, как измерять ёмкость знаний LLM в битах на параметр: что означает предел 2 бита, как его получили...
Открыть материал →
Дистилляция DeepSeek-R1: как R1 «упаковали» в модели 1.5B–70B
Разбираем первый релиз DeepSeek-R1 от 20 января 2025 года: что именно дистиллировали в Qwen и Llama, какие результаты показали модели 1.5B–70B и где у...
Открыть материал →
Как делают окно в миллион токенов: RoPE, YaRN и ring-attention
Разбираем, из каких частей собирают длинный контекст в LLM: что делает RoPE, зачем нужны YaRN и LongRoPE, и почему без blockwise/ring-attention миллион токенов не...
Открыть материал →
Many-shot jailbreak: взлом через длинный контекст
Разбор работы Anthropic от 2 апреля 2024 о many-shot jailbreak: почему длинный контекст стал новым вектором обхода защит LLM, что именно измеряли авторы и...
Открыть материал →
Weak-to-strong: слабый учитель для сильной модели — разбор работы OpenAI
Разбор Weak-to-Strong Generalization от OpenAI: как слабая модель может вытягивать более сильную, зачем нужен PGR, где метод сработал, а где провалился, и что это...
Открыть материал →
«Lost in the middle»: почему модель теряет середину контекста
Разбираем, что именно показала работа Lost in the Middle, почему длинное окно не гарантирует использование всех фрагментов и как это меняет дизайн RAG-систем.
Открыть материал →
Self-RAG и Corrective RAG: как работает самопроверка в RAG
Разбираем две ключевые работы 2023–2024 годов о самопроверке RAG: Self-RAG учит модель решать, когда искать и как критиковать ответ, а CRAG исправляет неудачный retrieval...
Открыть материал →
Circuit tracing: как Anthropic пытается проследить «мысли» модели
Anthropic в марте 2025 показала circuit tracing — способ собирать граф внутренних вычислений LLM. Разбираем, как работают attribution graphs, что они реально доказывают и...
Открыть материал →
FrontierMath: разбор бенчмарка математики, которую модели почти не решали
Разбираем FrontierMath от Epoch AI в исторической версии 2024 года: как собрали задачи, почему ни одна модель не превышала 2% и какие ограничения бенчмарка...
Открыть материал →
Длинный контекст против RAG: кто побеждает на практике
Сравниваем длинный контекст и RAG по первоисточникам 2024 года: где full-context действительно сильнее, где retrieval не сдал позиции, и почему в продакшене чаще выигрывает...
Открыть материал →