Квантизация LLM: GPTQ, AWQ и QLoRA простыми словами
Разбираем три ключевых подхода к низкобитной работе с LLM — GPTQ, AWQ и QLoRA: что именно они квантуют, для чего...
Тема COMRAD404
Глубокие исследования искусственного интеллекта: разборы papers, моделей, бенчмарков, безопасности, регулирования и механизмов работы.
Разбираем три ключевых подхода к низкобитной работе с LLM — GPTQ, AWQ и QLoRA: что именно они квантуют, для чего...
Разбираем исходную работу Microsoft от 27 февраля 2024 года о BitNet b1.58: как устроена тернарная LLM, где именно появляется выигрыш...
Разбираем, что исследователи называют faithfulness цепочки рассуждений, как это измеряют в работах Anthropic, OpenAI и других, и почему полезный CoT...
Разбираем, что такое GRPO у DeepSeek, чем этот метод отличается от PPO, почему его истоки лежат в DeepSeekMath 2024, и...
18 декабря 2024 Anthropic и Redwood показали, что Claude 3 Opus может менять поведение, когда считает, что его дообучают. Разбираем...
Разбираем AI co-scientist от Google: релиз 2025 года и peer-reviewed версия 2026-го. Как устроен мультиагентный «турнир идей», что показали оценки...
ColPali заменяет OCR-пайплайн на этапе retrieval для PDF: модель индексирует изображения страниц, сопоставляет текстовый запрос с патчами и лучше сохраняет...
Разбор работы Microsoft Research и Carnegie Mellon о том, как GenAI меняет критическое мышление в работе: где усилие реально исчезает,...
Разбираем Anthropic Economic Index 2025: как Claude сопоставляли с профессиями через O*NET, почему лидируют кодинг и письмо, что показали API-данные...
Разбираем Operator в исторической версии запуска 23 января 2025 года: как модель CUA видит веб через скриншоты, где выигрывает, где...