Mixture of Experts: как работает разреженная активация
Разбираем Mixture of Experts без хайпа: что делает роутер, почему активируется лишь часть параметров, откуда берутся overflow и token dropping...
Тема COMRAD404
Глубокие исследования искусственного интеллекта: разборы papers, моделей, бенчмарков, безопасности, регулирования и механизмов работы.
Разбираем Mixture of Experts без хайпа: что делает роутер, почему активируется лишь часть параметров, откуда берутся overflow и token dropping...
Разбираем π0 от Physical Intelligence и NVIDIA GR00T по первоисточникам: архитектура VLA, рецепты обучения, результаты 2024–2025 и ограничения без рекламного...
Обзор контролируемых и полевых исследований GitHub Copilot к концу 2024 года: где действительно виден рост продуктивности, почему 55,8% нельзя переносить...
Разбор Phi-3 и Phi-4 от Microsoft: как отбор данных, синтетические «учебниковые» корпуса и постобучение помогли маленьким моделям прибавить в математике,...
Разбираем по первоисточникам, что именно OpenAI и ARC Prize показали 20 декабря 2024 года: какой o3 тестировали, на каком протоколе,...
Разбираем два выпуска Stanford AI Index — от 15 апреля 2024 и 7 апреля 2025 — без новостного шума: какие...
Что реально означает «нативная генерация картинок в LLM» на примере GPT-4o и Gemini: общий мультимодальный контекст, межмодальный вывод, ограничения и...
Разбираем исторический релиз GPT-5 от 7 августа 2025 года: почему «единая модель» OpenAI на деле была системой из chat-модели, reasoning-модели...
ARC-AGI часто подают как индикатор пути к AGI, но по замыслу Франсуа Шолле он измеряет более узкую вещь: насколько система...
Разбираем пакет DeepSeek конца 2024 — января 2025 года: V3, R1 и дистилляты. Не новостной шум, а первоисточники — чтобы...