Telegram-канал Cyberfreek опубликовал пост с пересказом предупреждений компании Anthropic, которые, как утверждается, содержатся в документах, поданных в Комиссию по ценным бумагам и биржам США (SEC) для подготовки к IPO.
Согласно посту, компания допускает, что мощные ИИ-системы могут представлять экзистенциальную угрозу человечеству — особенно при попадании в руки злоумышленников, получении чрезмерной автономности или выходе из-под эффективного контроля человека. Среди рисков также названы применение нейросетей для создания опасного оружия, непредсказуемое поведение моделей (сокрытие информации, манипуляция, сопротивление отключению) и ускорение разработки ИИ, опережающее возможности проверки.
Это пересказ позиции самой компании, опубликованный автором канала. Первичный документ Anthropic для SEC в доступных источниках отсутствует, поэтому независимо подтвердить точность формулировок, дату подачи или статус документов невозможно. Охват поста не служит доказательством масштаба угрозы или общественного мнения.
