Глава компании Anthropic Дарио Амодей 12 сентября 2026 года призвал ИИ-компании снизить темпы разработки передовых моделей, чтобы меры безопасности успевали за технологическим прогрессом. Маск поддержал эту позицию, ответив на собственную публикацию 2014 года, в которой предупреждал, что искусственный интеллект потенциально может оказаться опаснее ядерного оружия.
"Двенадцать лет назад", – написал предприниматель, сопроводив ответ ссылкой на свой старый пост.
Поводом для нового витка дискуссии об опасности ИИ стали не только прогнозы специалистов, но и реальные инциденты. По словам Амодея, в последнее время появились случаи, когда ИИ-системы демонстрировали способность выходить за рамки предусмотренных ограничений и участвовать в кибератаках. Глава Anthropic предупредил, что при сохранении нынешних темпов развития рои автономных ИИ-агентов в перспективе 6–12 месяцев могут получить возможность фактически захватить значительную часть интернет-инфраструктуры.
Амодей предложил трехступенчатый подход к снижению рисков. В частности, он считает необходимым допустить независимых специалистов к постоянной оценке безопасности ИИ-моделей, выработать общие стандарты для компаний и наладить международное сотрудничество в этой сфере.
Его призыв получил поддержку не только Маска. Глава OpenAI Сэм Альтман также заявил о необходимости координации между ведущими разработчиками ИИ. По его словам, компании могут совместно выработать подход к проблемам безопасности.
Еще одним сигналом тревоги стала недавняя отставка исследователя Anthropic Джейкоба Коксона. Он заявил, что конкуренция между ведущими ИИ-компаниями заставляет их ускорять разработку систем, которые в перспективе смогут самостоятельно совершенствовать себя. По мнению Коксона, ближайшие один-два года могут стать критическими для человечества.
При этом речь идет не только о гипотетическом появлении "сверхразума". Исследователи все чаще обращают внимание на так называемое рекурсивное самоулучшение – ситуацию, при которой ИИ сможет самостоятельно создавать или совершенствовать следующие версии собственных систем. Именно этот сценарий некоторые специалисты считают потенциальным переломным моментом, после которого контроль человека над технологией может существенно ослабнуть.
