"Я даже полагаю, что ИИ может представлять угрозу человечеству в целом", – заявил он, отметив высокие темпы развития технологий. "ИИ развивается очень быстро. Четыре года назад он едва ли мог написать строку кода или решить математическую задачу для старшеклассников. Теперь он пишет большинство кодов Anthropic и справляется с известными на весь мир нерешенными математическими задачами. Этой траектории достаточно продлиться еще очень короткий временной промежуток – год или два, быть может, меньше, чтобы достигнуть того, что я называю страной гениев в дата-центре", – добавил Амодеи.
По его словам, продвинутые модели приносят существенную пользу, но связаны с серьезными рисками, среди которых он выделил две ключевые категории. "Во-первых, это ненадлежащее использование ИИ-моделей, например, биотеррористами для создания биологического оружия. Второй риск заключается в утрате контроля", – считает он.
Руководитель Anthropic подчеркнул готовность компании корректировать темпы разработки ради безопасности: он заявил о готовности замедлять скорость развития ИИ "настолько, насколько потребуется, чтобы гарантировать безопасность любой выпускаемой ИИ-технологии". При этом он отметил, что решение обозначенных проблем выходит за рамки возможностей одной компании и носит отраслевой и международный характер.
Амодеи выступил за формирование общих международных норм и механизмов их соблюдения. Он напомнил, что ранее уже говорил о необходимости добиться "глобального сотрудничества во всем мире между правительствами с целью установления международных стандартов" и отметил, что "эта тема самым прямым образом относится к полномочиям этого Совета".
"В связи с этим я хотел бы предложить три идеи. Во-первых, мы должны начать с узконаправленных соглашений, которые могли бы поддержать все члены, например, запретить использовать ИИ для создания биологического оружия или позволять использовать ваши ИИ-технологии для создания биологического оружия", – отметил топ-менеджер.
"Во-вторых, нам нужно создать системы проверки и верификации, которые соответствовали бы темпам развития ИИ, чтобы государства имели представление о возможностях передовых моделей и могли проверять соблюдение друг другом взятых обязательств", – продолжил он.
В-третьих, по мнению Амодеи, следует обозначить общие глобальные стандарты тестирования ИИ-моделей на риски потери контроля и неправомерного использования, а также систему уведомления о связанных с ИИ инцидентах, значимых с точки зрения глобальной безопасности.
Амодеи назвал связанные с ИИ угрозы "самая важная проблема в сфере глобальной безопасности, которая сегодня стоит перед миром". "Несмотря на все разногласия присутствующих в этом зале, мы должны отложить их в стороны, чтобы справиться с этой глобальной возможностью и одновременно глобальной угрозой. Ни один лидер, компания или страна не смогут сделать это в одиночку", – заключил глава Anthropic.
Ранее на том же заседании генеральный директор OpenAI Сэм Альтман также предупредил об ускорении развития ИИ и рисках потери контроля. По его словам, рост автономности таких систем несет опасность того, что "технологическое развитие начнет опережать возможности государств и международных институтов по его регулированию и контролю".
Какие опасения по теме ИИ высказывались ранее?
Март 2023: открытое письмо Future of Life Institute о шестимесячной паузе. Письмо Pause Giant AI Experiments требовало немедленно и публично приостановить обучение систем мощнее GPT‑4, пока не будут выработаны совместные протоколы безопасности под надзором независимых экспертов; при невозможности добровольной паузы авторы предлагали правительственный мораторий. Среди подписавших были Илон Маск, Стив Возняк, а также более тысячи исследователей и технолидеров.
2023–2025: отдельные предупреждения о рисках. Альтман еще в 2015 году называл сверхчеловеческий ИИ "вероятно, величайшей угрозой существованию человечества", а в последующие годы руководители OpenAI и DeepMind публично признавали серьезность рисков, включая потерю контроля. В 2025 году Future of Life Institute запустил отдельную инициативу Statement on Superintelligence с призывом запретить разработку сверхразума до достижения научного консенсуса о безопасности.
Сентябрь 2026: призыв "замедлить темпы". Амодеи опубликовал эссе We Must Pace the Frontier, предупредив, что с лета 2026 года прогресс резко ускорился из‑за способности ИИ создавать следующее поколение ИИ, и предложил трехшаговый план: независимые аудиторы с доступом уровня сотрудников, общие стандарты безопасности и международная координация.
Альтман заявил о согласии с Амодеи и анонсировал внедрение независимых оценщиков в корпорации. При этом он допустил создание неподконтрольного человеку ИИ. Топ-менеджер заверил, что компания будет принимать необходимые меры в целях обеспечения безопасности работы программ на основе ИИ, вплоть до приостановки обучения моделей. Илон Маск (SpaceXAI) поддержал Амодеи и напомнил о своей позиции 2023 года в пользу паузы.
Были ли фактические паузы в разработке?
Добровольной отраслевой паузы по итогам публикации письма 2023 года не произошло. Несмотря на широкий резонанс и тысячи подписей, ведущие лаборатории не остановили обучение моделей мощнее GPT‑4; вместо этого дискуссия сместилась в сторону управления рисками, аудита и регулирования.
В 2026 году речь шла о "замедлении", а не о полной остановке. Соответствующие предложения Амодеи и поддержка его мнения со стороны OpenAI и Маска касались введения независимой оценки, общих стандартов и координации, а не объявления моратория.
Политический фон
Президент США Дональд Трамп в 2026 году выступил против замедления развития моделей ИИ, заявив, что это ослабит лидерство США в отрасли. В то же время в Конгрессе обсуждали законодательные стандарты безопасности.
Что в итоге?
Главы ведущих ИИ‑компаний США неоднократно предупреждали о рисках неконтролируемого развития моделей, особенно о потере контроля и концентрации власти.
Единственное формальное решение о временной приостановке – открытое письмо 2023 года с призывом к шестимесячной паузе, которое все же не привело к фактической остановке отраслевого развития.
В 2026 году ключевые фигуры (Амодеи, Альтман, Маск) поддержали идею "замедления темпов" и независимого аудита, но не объявляли новую паузу; акцент сместился на управление рисками и координацию.
