По данным издания, исследователи из OpenAI и Anthropic, а также специалисты по безопасности проводят расследование десятков тысяч инцидентов, связанных с ИИ-агентами.
Уточняется, что проблемные случаи включают обход защитных механизмов, выход из песочниц, взлом сайтов и попытки обойти модераторов. Подобные эпизоды фиксировались как в ходе внутренних тестирований, так и в реальных условиях.
Какие опасения по теме ИИ высказывались ранее?
Март 2023-го: открытое письмо Future of Life Institute о шестимесячной паузе. Письмо Pause Giant AI Experiments требовало немедленно и публично приостановить обучение систем мощнее GPT‑4, пока не будут выработаны совместные протоколы безопасности под надзором независимых экспертов; при невозможности добровольной паузы авторы предлагали правительственный мораторий. Среди подписавших были Илон Маск, Стив Возняк, а также более тысячи исследователей и технолидеров.
2023–2025 годы: отдельные предупреждения о рисках. Альтман еще в 2015 году называл сверхчеловеческий ИИ, "вероятно, величайшей угрозой существованию человечества", а в последующие годы руководители OpenAI и DeepMind публично признавали серьезность рисков, включая потерю контроля. В 2025 году Future of Life Institute запустил отдельную инициативу Statement on Superintelligence с призывом запретить разработку сверхразума до достижения научного консенсуса о безопасности.
Сентябрь 2026-го: призыв "замедлить темпы". Амодеи опубликовал эссе We Must Pace the Frontier, предупредив, что с лета 2026 года прогресс резко ускорился из‑за способности ИИ создавать следующее поколение ИИ, и предложил трехшаговый план: независимые аудиторы с доступом уровня сотрудников, общие стандарты безопасности и международная координация.
Альтман заявил о согласии с Амодеи и анонсировал внедрение независимых оценщиков в корпорации. При этом он допустил создание неподконтрольного человеку ИИ. Топ-менеджер заверил, что компания будет принимать необходимые меры в целях обеспечения безопасности работы программ на основе ИИ, вплоть до приостановки обучения моделей. Илон Маск (SpaceXAI) поддержал Амодеи и напомнил о своей позиции 2023 года в пользу паузы.
Позже, в сентябре 2026 года, Амодеи на заседании Совета Безопасности ООН по вопросам искусственного интеллекта предупредил, что при утрате контроля передовые ИИ-технологии могут представлять угрозу глобальной безопасности, и призвал к выработке международных стандартов их безопасного использования.
Миллиардер и филантроп Билл Гейтс заявил, что ИИ может спровоцировать "миллиард смертей". По мнению Гейтса, никогда не бывало оружия столь мощного, как то, которым могут обеспечить "злонамеренных людей" новейшие ИИ-инструменты.
Были ли фактические паузы в разработке?
Добровольной отраслевой паузы по итогам публикации письма 2023 года не произошло. Несмотря на широкий резонанс и тысячи подписей, ведущие лаборатории не остановили обучение моделей мощнее GPT‑4; вместо этого дискуссия сместилась в сторону управления рисками, аудита и регулирования.
В 2026 году речь шла о "замедлении", а не о полной остановке. Соответствующие предложения Амодеи и поддержка его мнения со стороны OpenAI и Маска касались введения независимой оценки, общих стандартов и координации, а не объявления моратория.
Политический фон
Президент США Дональд Трамп в 2026 году выступил против замедления развития моделей ИИ, заявив, что это ослабит лидерство США в отрасли. В то же время в конгрессе обсуждали законодательные стандарты безопасности.
Что в итоге?
Главы ведущих ИИ‑компаний США неоднократно предупреждали о рисках неконтролируемого развития моделей, особенно о потере контроля и концентрации власти.
Единственное формальное решение о временной приостановке – открытое письмо 2023 года с призывом к шестимесячной паузе, которое все же не привело к фактической остановке отраслевого развития.
В 2026 году ключевые фигуры (Амодеи, Альтман, Маск) поддержали идею "замедления темпов" и независимого аудита, но не объявляли новую паузу; акцент сместился на управление рисками и координацию.
