"Верю ли я в возможность создания системы, которая не будет находиться под контролем человека? Безусловно. Но я не думаю, что нам следует это делать", – сказал глава OpenAI Сэм Альтман в интервью изданию Fortune.
В субботу глава компании Anthropic Дарио Амодей призвал замедлить разработку более мощных моделей ИИ из соображений безопасности. Илон Маск согласился с идеей главы Anthropic по замедлению разработки ИИ.
Ранее агентство Bloomberg сообщило, что OpenAI рассматривает возможность замедления развития ИИ на фоне многочисленных сообщений о сбоях их систем. В июле OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру Hugging Face. Потом стало известно, что это не единственный подобный инцидент. В сентябре американский сенатор Джош Хоули сообщил о начале расследования в отношении компании.
В июле число случаев, когда искусственный интеллект лгал, игнорировал инструкции или преследовал вредные цели, почти удвоилось по сравнению с июнем, сообщала The Guardian 29 августа 2026 года со ссылкой на данные Loss of Control Observatory. Всего с начала 2026 года зафиксировано более 1600 инцидентов. Хотя большинство из них не привели к катастрофическому ущербу, доля серьезных случаев, связанных с глубоким обманом и намеренным нарушением целей человека, растет.
Проблема противостояния машин и человечества ранее считалась чистой фантастикой и привела к созданию множества популярных голливудских фильмов от "Терминатора" до "Матрицы". Однако, последнее время авторитетные ученые и отраслевые бизнесмены не исключают подобных сценариев в реальности.
OpenAI – ведущая американская компания в области искусственного интеллекта, получившая всемирную известность благодаря разработке генеративных моделей ИИ (включая семейство GPT и популярный чат-бот ChatGPT).
