OMP-MoE сокращает число экспертов в MoE-моделях без дообучения
Авторы OMP-MoE предложили удалять избыточных экспертов из MoE-моделей с помощью Orthogonal Matching Pursuit. На Qwen3-30B-A3B метод, по их данным, сохранил...
Тема COMRAD404
Авторы OMP-MoE предложили удалять избыточных экспертов из MoE-моделей с помощью Orthogonal Matching Pursuit. На Qwen3-30B-A3B метод, по их данным, сохранил...
DeepSeek-V4 — это не просто очередная модель с большим окном контекста. Это первая архитектура, где миллион токенов перестаёт быть маркетинговой...
DeepSeek выпустила обновление V3 — модель показывает результаты, сопоставимые с GPT-4, при значительно меньших вычислительных затратах. Разбираем ключевые изменения, бенчмарки...
Выход Grok 4.6 и обновление экосистемы агентов: главное из августовского дайджеста Latent Space
Новая языковая модель DeepSeek V4 Pro 0813 появилась в каталоге OpenRouter. Релиз сопровождается необычными особенностями работы уровней рассуждения и сложной...
TechCrunch Equity разбирает, почему запуск модели Kimi от Moonshot AI вызвал очередную истерику в Силиконовой долине и Вашингтоне, и кто...