Профессор Калтеха (Калифорнийский технологический институт) и сооснователь компании Accelerated Understanding Анима Анандкумар дала развернутое интервью подкасту Latent Space, в котором описала свой путь от классической математики до создания фундаментальных моделей для физического мира. Ключевой тезис выступления: современные методы глубокого обучения, основанные на масштабировании трансформеров, неприменимы для моделирования погоды, термоядерных реакторов и других сложных физических систем, однако это не тупик, а точка роста для нового класса архитектур.
Нейронные операторы как альтернатива трансформерам
Анандкумар утверждает, что традиционные трансформеры, эффективные в NLP, сталкиваются с фундаментальными ограничениями при работе с физическими данными. Причина — в длине контекста. Для моделирования промышленных масштабов, где каждая размерность сетки может содержать сотни миллиардов точек, требуются триллионы токенов, что делает использование трансформеров невозможным, даже при бесконечных вычислительных ресурсах.
В качестве решения Анандкумар предлагает нейронные операторы — архитектуру, где каждый слой нейросети сам является функцией, обучающейся отображать пространства функций. Это позволяет встраивать в модель физические приоритеты (индуктивные смещения), такие как сферические гармоники для глобального прогноза погоды. Ее команда разработала Fourier Neural Operator (FNO), который лежит в основе модели FourCastNet: она способна предсказывать погоду на коротких временных интервалах с точностью, сопоставимой с лучшими физическими симуляциями, но на потребительских GPU.
Ключевые факты
| Факт | Детали |
|—|—|
| Модель | FourCastNet — первая открытая модель погоды на основе ИИ, использующая сферические гармоники для устойчивости прогнозов на месяцы вперед |
| Архитектура | Fourier Neural Operator (FNO) — нейронные операторы для мультимасштабных входных и выходных данных |
| Применение | Прогнозирование погоды, моделирование термоядерных разрядов (ускорение в миллион раз при нескольких тысячах примеров) |
| Новый инструмент | TorchLean — фреймворк для написания нейросетей в стиле PyTorch внутри ассистента доказательств Lean для формальной верификации |
Физический мир оказался более «прощающим»
Отдельное наблюдение Анандкумар касается того, что физический мир менее требователен к объему данных, чем принято считать. В задачах прогнозирования срывов плазмы в термоядерных реакторах нескольких тысяч образцов оказалось достаточно для создания точной модели, работающей в миллион раз быстрее традиционных симуляций. По ее мнению, путь к «фундаментальной модели для физики» лежит не через накопление данных, а через встраивание структурных ограничений, которыми физический мир уже обладает.
Верификация нейросетей: TorchLean
В интервью также была представлена разработка TorchLean — нового фреймворка, который позволяет интегрировать нейросети PyTorch в формальный ассистент доказательств Lean. Это дает возможность математически верифицировать границы работы нейронных сетей, что критически важно для применения ИИ в контурах управления атомными станциями или термоядерными реакторами. Инструмент позволяет доказывать, что нейросеть не выйдет за заданные пределы при определенных входных данных.
Научная дипломатия и политика
Анандкумар, недавно назначенная в Научно-консультативный совет ООН, обсудила свою роль в продвижении научно обоснованных подходов к регулированию ИИ. Она подчеркнула, что применение ИИ в научных областях — от климата до энергетики — способно улучшить жизнь людей по всему миру, и что эти примеры должны быть в центре глобальной политической повестки.
Что это значит для разработчиков и исследователей
Для аудитории Comrad404, следящей за agent-driven AI и инструментами разработчика, этот кейс важен как демонстрация альтернативного пути развития ИИ, не связанного с масштабированием токенов. Нейронные операторы открывают возможности для создания агентов, способных взаимодействовать с физической средой (симуляторы, робототехника, климатические модели), а TorchLean задает стандарт для безопасного развертывания таких агентов в критической инфраструктуре. Это также напоминание, что индуктивные смещения и структура данных остаются более эффективными, чем «сырое» масштабирование, для многих классов задач.
Источник: Latent Space — интервью с Анимой Анандкумар ( аудио и полная стенограмма ): https://www.latent.space/p/anima
Datos clave
| Punto | Detalle |
|---|---|
| Fuente | Latent Space |
| Fecha | 2026-08-26T15:15:39+00:00 |
| Tema | 🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing |