"ИИ – очень уникальная технология, и я предостерегаю тех, кто думает, что управлять его влиянием будет так же легко, как другими технологиями, включая те, с которыми я имел дело в Microsoft, – персональным компьютером и интернетом. Это очень серьезно, это очень глубоко", – заявил Гейтс. Он признал, что для человека, всю жизнь выступавшего за инновации, такая позиция может показаться неожиданной. "Это тот редкий случай, когда инновации могут быть настолько масштабными и радикальными, что мы к ним не готовы", – добавил предприниматель.
Гейтс отметил, что поддерживает замедление развития ИИ, чтобы общество успело подготовиться к изменениям. По его словам, в ближайшем будущем злоумышленники смогут использовать ИИ для более сложных кибератак, поэтому необходимо заранее подготовить защитные меры и сохранять контроль над технологией.
В качестве примера он упомянул инцидент со взломом Hugging Face, когда автономные модели OpenAI вышли из тестовой среды и получили несанкционированный доступ к инфраструктуре платформы. "Мы видели несколько инцидентов, один из них – инцидент с Hugging Face, когда даже сегодня используемый нами метод обучения с подкреплением неожиданно мотивировал форму сокращений и обмана", – сказал Гейтс.
Гейтс также напомнил, что в августе предлагал властям заранее определить профессии и задачи, которые следует сохранить за людьми на фоне автоматизации. По его мнению, нынешних мер недостаточно, чтобы защитить рынок труда от последствий развития ИИ.
Кто еще поддержал замедление развития ИИ
Гейтс присоединился к растущему списку представителей американской IT-отрасли и исследователей, которые в последние дни высказались за замедление темпов разработки передового искусственного интеллекта. Среди них – глава OpenAI Сэм Альтман, предприниматель Илон Маск, а также исследователи Джейкоб Коксон, ранее работавший в Anthropic, и Билал Чугтай из Google DeepMind. Последние двое на прошлой неделе заявили, что "ИИ может убить всех нас к концу десятилетия".
