Axios утверждает, что руководители Anthropic, OpenAI и других компаний приватно обсуждают варианты реагирования, включая риски общественных беспорядков после крупного инцидента.
В OpenAI изданию сообщили, что "проводят учения по подготовке к чрезвычайным ситуациям, в ходе которых команды обсуждают и отрабатывают ряд потенциальных сценариев", при этом подчеркнули, что "не рассматривают эти сценарии как неизбежные". В Anthropic от комментариев отказались.
Опасения вокруг ИИ
Поводом для нового витка дискуссии об опасности ИИ стали не только прогнозы специалистов, но и реальные инциденты.
Глава компании Anthropic Дарио Амодей 12 сентября 2026 года призвал ИИ-компании снизить темпы разработки передовых моделей, чтобы меры безопасности успевали за технологическим прогрессом. По словам Амодея, в последнее время появились случаи, когда ИИ-системы демонстрировали способность выходить за рамки предусмотренных ограничений и участвовать в кибератаках. Глава Anthropic предупредил, что при сохранении нынешних темпов развития рои автономных ИИ-агентов в перспективе 6–12 месяцев могут получить возможность фактически захватить значительную часть интернет-инфраструктуры.
Амодей предложил трехступенчатый подход к снижению рисков. В частности, он считает необходимым допустить независимых специалистов к постоянной оценке безопасности ИИ-моделей, выработать общие стандарты для компаний и наладить международное сотрудничество в этой сфере.
Американский бизнесмен Илон Маск, который сам владеет компанией – разработчиком ИИ SpaceXAI, поддержал эту позицию, ответив на собственную публикацию 2014 года, в которой предупреждал, что искусственный интеллект потенциально может оказаться опаснее ядерного оружия.
Глава OpenAI Сэм Альтман также заявил о необходимости координации между ведущими разработчиками ИИ. По его словам, компании могут совместно выработать подход к проблемам безопасности.
Еще одним сигналом тревоги стала недавняя отставка исследователя Anthropic Джейкоба Коксона. Он заявил, что конкуренция между ведущими ИИ-компаниями заставляет их ускорять разработку систем, которые в перспективе смогут самостоятельно совершенствовать себя. По мнению Коксона, ближайшие один-два года могут стать критическими для человечества.
При этом речь идет не только о гипотетическом появлении "сверхразума". Исследователи все чаще обращают внимание на так называемое рекурсивное самоулучшение – ситуацию, при которой ИИ сможет самостоятельно создавать или совершенствовать следующие версии собственных систем. Именно этот сценарий некоторые специалисты считают потенциальным переломным моментом, после которого контроль человека над технологией может существенно ослабнуть.
