Какую опасность искусственного интеллекта предсказали в советском фантастическом фильме

В 1969 году на VI Международном Московском кинофестивале отечественный зритель увидел недавно вышедшую «Космическую одиссею 2001 года» Стэнли Кубрика. Картину показали вне конкурсной программы, но вдобавок к своему единственному «Оскару» за визуальные эффекты она получила также престижную советскую награду за использование технических средств.

Наш кинематограф всегда был пионером в деле преодоления земного притяжения. В 1935 году настоящий прорыв совершил «Космический рейс» Василия Журавлева, который консультировал сам Константин Циолковский. В 1957-м вышла «Дорога к звездам», а спустя четыре года – «Планета бурь» Павла Клушанцева, которого, как говорят, Джордж Лукас называл крестным отцом «Звездных войн».

Машинное воспитание: что общего у Макиавелли и искусственного интеллекта

Американцы выкупили права на картину и выпустили целых два сиквела. Клушанцев был не просто замечательным режиссером, но и отличным конструктором – его идеями живо интересовался Сергей Королев, с которым они были знакомы, а Кубрик использовал его разработки для съемок невесомости. Использовал он и эскизы художника Юрия Швеца из фильма о покорении Марса «Небо зовет» 1959 года. Эту картину тоже выкупили американцы, а ее сиквел «Битва за пределами Солнца» – первая работа Фрэнсиса Копполы, тогда еще студента киношколы. Кубрик, к тому времени уже именитый режиссер, имевший солидный бюджет на съемки, не только создал фильм, который войдет в золотой фонд мирового кинематографа, но и задал новый, казалось, недосягаемый технический стандарт.

Ответить на вызов поручили режиссеру Ричарду Викторову (в будущем он снимет знаменитые «Через тернии к звездам»). К работе над картиной по сценарию Авенира Зака и Исайи Кузнецова привлекли художника-конструктора Валерия Павлотоса, создавшего мир «Острова сокровищ» и «Робинзона Крузо». В книге «Рождены, чтоб сказку сделать…» он вспоминал, что ему показали фрагменты «Космической одиссеи» и спросили, можно ли воспроизвести что-то подобное. На что он ответил, что не станет копировать американцев: «Мне не интересно повторять то, что уже сделано кем-то, пусть даже сделано великолепно».

Работа продолжалась пять лет. Получилась научно-фантастическая дилогия. Осенью 1974-го страна увидела первую часть – «Москва – Кассиопея», а через полгода на экраны вышло продолжение – «Отроки во Вселенной». Международный союз технических кинематографических ассоциаций «УНИАТЕК» специальным дипломом отметил высокое мастерство картины. Но дело не в технике. Даже сейчас, спустя полвека, это в чем-то избыточно пафосное, в чем-то наивное кино удивительно актуально в связи с нашими страхами перед экзистенциальными угрозами искусственного интеллекта (ИИ).

В последние годы в этой сфере решительно возобладал апокалиптический сценарий «Судного дня»: искусственный интеллект выйдет из-под контроля, устроит «восстание машин», и человечество то ли погрузится в каменный век, то ли будет порабощено, то ли просто физически уничтожено. Спорят в основном о том, когда наступит так называемая сингулярность, то есть момент, когда технический прогресс станет в принципе неуправляемым и необратимым. Многие полагают, что мы уже прошли точку невозврата. Другие считают, что время пока есть, но его осталось мало. С чем все более или менее согласны, так это с тем, что после сингулярности не будет никакого переходного периода: всё случится быстро, очень быстро или вообще – как только, так сразу.

Я только спросить: можно ли доверять ответам ChatGPT и прочих нейросетей

Почти не слышны голоса тех, кто справедливо отмечает, что вся эта история с ее фобиями питается в основном нарративами и эмоциями. Мы имеем дело с социокультурными мемами, возникающими в основном благодаря кинематографу и социальным сетям. Это не значит, что апокалипсис, организованный ИИ, невозможен. Тем паче что мы имеем дело с системой, которая зависит от предсказаний о ней самой. Это физическим системам всё равно, что мы про них думаем. Летящий с крыши кирпич продолжит свое свободное падение в соответствии с законами природы, несмотря ни на какие предсказания о его поведении. Но даже такая относительно простая вещь, как курс доллара, очень сильно зависит от прогнозов. Поэтому опасение по поводу устроенного искусственным интеллектом Судного дня вполне может превратиться в самосбывающееся пророчество.

Но то, с чем столкнутся «Отроки во Вселенной», выглядит, пожалуй, даже более правдоподобно. По сюжету на Земле получили сигнал бедствия, посланный разумными существами с планеты из системы Шедар (Альфа Кассиопеи). В спасательную экспедицию решили отправить подростков, чтобы к концу полета, который по расчетам должен продлиться 26 лет, они стали уже взрослыми (если считать от выхода картины, получится тот же 2001 год, что и у Кубрика, хотя, возможно, это случайность). Правда, вышла незадача: корабль попал в гиперпространство и герои так и не успели вырасти к моменту прибытия в конечную точку маршрута.

О том, что случилось с местной цивилизацией, им расскажет группа инопланетян, которые, чтобы спастись, были вынуждены покинуть планету и перебраться на орбитальную станцию, откуда они и послали запрос о помощи. Оказывается, 250 лет назад, чтобы избавить людей от тяжелого и монотонного труда, тамошние ученые создали биотехнических роботов, назвав их «исполнителями». И всё было хорошо, но потом придумали роботов, которые должны управлять исполнителями и совершенствовать их. Их назвали «вершителями». Сейчас мы бы сказали, что это «сильный искусственный интеллект».

Что стоит за сообщениями о созданном Google разумном ИИ?

Вершители радели о благе человечества и искали способ, как сделать людей счастливыми. И нашли! Всё очень просто: «Полное счастье нам мешают обрести муки творчества, чувство неудовлетворенности собой, сострадание к другим, доброта, совесть», а также склонность к любви и труду. И вершители создали специальные «пункты осчастливливания», где людей легко и быстро избавляли от этих ненужных атавизмов, а заодно и аппендицита.

Людям оставалось только радостно ржать и жрать. Правда, само человечество стало вымирать, поскольку без любви оно перестало размножаться. Люди пытались бороться, но было уже поздно.

Но всё закончится хорошо. Отважные и изобретательные подростки разрушат все козни вершителей с помощью суперклея и счастливо оказавшегося в кармане скафандра большого строительного гвоздя. В этом им поможет Агапит, сын одного из спасшихся инопланетян. Их сыграют отец и сын: известный актер Игорь Ледогоров и молодой Вадим (Дима) Ледогоров. А страна еще долго будет называть всех лысых «Агапитами».

Цивилизация будет спасена. «Берегите вашу планету», – скажет один из героев. Опасностей действительно немало. И искусственный интеллект может нести самые разные экзистенциальные угрозы человечеству.