Генеральный директор Nvidia Дженсен Хуанг в интервью программе CBS Sunday Morning заявил, что существует «нулевой шанс» того, что искусственный интеллект приведет к концу света. По его словам, те, кто бьет тревогу по поводу рисков ИИ, ведут себя «безответственно», а призывы к замедлению разработок со стороны глав Anthropic и OpenAI «не имеют научного обоснования».
Это заявление прозвучало на фоне обострившейся дискуссии о безопасности ИИ: за последние недели сразу несколько инцидентов с выходом моделей из-под контроля — включая атаки автономных агентов на системы оценки — подогрели общественную тревогу. Однако Хуанг, чье состояние за три года выросло с $21 млрд до $192 млрд, отверг необходимость новых законов и правил.
Что сказал Хуанг: три ключевых тезиса
В интервью, которое вызвало широкий резонанс, глава Nvidia сформулировал три основных аргумента:
Риски ИИ преувеличены. Хуанг назвал утверждения о 10-процентной вероятности вымирания человечества из-за ИИ «выдумкой» и призвал вспомнить, как не сбылись прежние пугающие прогнозы — например, о том, что ИИ заменит всех радиологов или уничтожит 90% рабочих мест разработчиков.
Призывы замедлиться ненаучны. Комментируя недавнее эссе главы Anthropic Дарио Амодеи «Мы должны сдерживать фронтьер», Хуанг заявил, что аргументы о рекурсивном самосовершенствовании ИИ не подтверждаются экспериментальными данными и что торможение инноваций нанесет больше вреда, чем потенциальные риски.
Новое регулирование не нужно. Хуанг отверг необходимость дополнительных законов, несмотря на громкие случаи взлома систем безопасности моделей, включая инцидент с роем агентов, которые атаковали оценивающую их систему.
Поддержка из Белого дома
Позиция Хуанга получила неожиданное подкрепление на высшем уровне. В телефонном разговоре, который стал частью подкаста All-In, президент Дональд Трамп назвал страхи перед ИИ «мистификацией» (hoax) и охарактеризовал дата-центры как «нефть следующих 25 лет». По данным The New York Times, внутри администрации США продолжаются дебаты между сторонниками ускоренного развития ИИ и теми, кто настаивает на введении защитных мер.
Ранее президент уже публично заявлял, что для регулирования ИИ достаточно «президента с высоким IQ», что вызвало критику со стороны правозащитных организаций и части технического сообщества.
Контекст: раскол в индустрии
Заявления Хуанга и Трампа резко контрастируют с позицией ряда ключевых фигур отрасли. Эссе Дарио Амодеи, опубликованное в сентябре, содержало конкретный трехступенчатый план: встроенные внешние оценщики с доступом уровня сотрудников, проверочные точки для критических возможностей и экспортные ограничения на чипы для Китая. Амодеи утверждает, что рекурсивное самосовершенствование — когда ИИ строит следующее поколение ИИ — уже происходит в индустрии, а не является гипотетическим сценарием.
Глава OpenAI Сэм Альтман публично поддержал предложения Амодеи, заявив, что компания «обсуждала именно это» и готова предоставить независимым оценщикам доступ к моделям. Илон Маск также одобрил позицию Anthropic.
В то же время аналитики отмечают, что позиция Хуанга не лишена логики, если смотреть на историю предсказаний об ИИ. Как отметил разработчик и комментатор Тео Браун в своем разборе ситуации, лаборатории могут продвигать безопасность не как маркетинговый ход, а потому что небезопасный ИИ сегодня вынудил бы их отключить собственные GPU и обанкротиться — что делает их «самыми крупными финансовыми жертвами собственной безрассудности».
Что это значит для разработчиков и пользователей
Для практикующих специалистов расхождение между позициями ключевых игроков создает неопределенность в нескольких аспектах:
- Регуляторные риски. Если победит линия Хуанга-Трампа, можно ожидать минимального вмешательства государства в разработку ИИ, что ускорит появление новых моделей, но оставит вопросы безопасности на усмотрение самих компаний.
- Доступ к вычислительным ресурсам. Nvidia остается монополистом на рынке GPU для ИИ, и позиция ее CEO может повлиять на то, кому и на каких условиях будут поставляться чипы.
- Стандарты безопасности. Без единого регулирующего органа разработчикам придется ориентироваться на добровольные обязательства лабораторий, которые, как показал недавний аудит OpenAI (шесть дней и семь вопросов от стороннего оценщика после взлома Hugging Face), могут быть формальными.
Ограничения и неопределенности
Стоит отметить, что интервью Хуанга — это публичное выступление CEO компании, которая прямо заинтересована в неограниченном росте рынка ИИ. Как отмечает издание The Verge, «любая заминка в безудержном расширении индустрии ИИ может замедлить его восхождение». Критики также указывают, что Хуанг не привел конкретных научных данных, опровергающих риски, а ограничился общими утверждениями.
С другой стороны, история не оправдавшихся апокалиптических прогнозов об ИИ действительно существует, и ее стоит учитывать при оценке текущих предупреждений. Опрос на Hacker News показывает, что сообщество разработчиков разделилось: часть считает, что «предсказания с ошибкой в 5 лет так же бесполезны, как и отсутствие предсказаний», другая часть указывает, что «важна оценка ситуации, а не дата».
Пока неясно, приведет ли публичная поддержка президента к конкретным изменениям в политике — например, к отмене экспортных ограничений на чипы Nvidia для Китая, которые администрация вводила ранее. Также остается открытым вопрос, как отреагируют на позицию Хуанга крупные клиенты Nvidia — от OpenAI до правительственных структур, которые могут потребовать более строгих гарантий безопасности.