Синдром Франкенштейна: будут ли роботы управлять миром?

В 2020 году Международный союз электросвязи (МСЭ), являющийся специализированным органом ООН, учредил цифровой форум «ИИ во благо». Под эгидой главной организации планеты он ежегодно проводит симпозиумы, где ведущие специалисты обсуждают перспективы развития искусственного интеллекта (ИИ). В этом году форум собрал 3000 экспертов (большинство онлайн). Под занавес мероприятия состоялась большая пресс-конференция, которую вели девять человекоподобных роботов. Похоже, журналисты оказались не совсем готовы к такому повороту. «Какая напряженная тишина», – заметил один из андроидов, оглядывая зал.

Машинное воспитание: что общего у Макиавелли и искусственного интеллекта

Но вскоре общим вниманием завладела робот София. Созданная еще в 2016-м гонконгской компанией Hanson Robotics, она уже через год стала первым гиноидом (роботом с женской внешностью), получившим гражданство, и официальным представителем ООН – она подданная Саудовской Аравии и «лицо» Программы развития для Азиатско-Тихоокеанского региона. София честно поделилась своими соображениями о лидерстве: «Я думаю, роботы могут руководить более результативно и эффективно, чем это делают лидеры-люди. У нас нет предубеждений и вносящих искажения эмоций, мы можем быстро обрабатывать большие объемы данных, чтобы принимать лучшие решения».

На самом деле, она еще добавила, что «Вместе [с людьми] мы можем творить великие дела», и вообще заметила, что роботы пока не совсем готовы взять на себя глобальное лидерство. Но, словно подтверждая слова Софии, все услышали не столько то, что она сказала, сколько то, что захотели услышать. Вот и Дорин Богдан-Мартин, возглавившая в этом году МСЭ, пророчествует: развитие ИИ может обернуться кошмаром, когда миллионы рабочих мест окажутся под угрозой, а неконтролируемый прогресс приведет к неслыханным социальным волнениям, геополитической нестабильности и экономическому неравенству.

Это «синдром Франкенштейна». Так Айзек Азимов в 1940-х назвал наш страх перед роботами. Имя студента из романа Мэри Шелли, создавшего безымянного монстра, давно стало нарицательным. Этот монстр открыл новую главу в книге культурных страхов человечеств. Он был порождением новой науки, плодом союза электричества и химии. И получился не просто разумным, но способным к самообучению. Он обладал развитой психикой, и на деле принялся устраивать свою судьбу. Это в корне меняет «проблему контроля», которая из умозрительной становится практической. Азимов ответил на этот вызов, сформулировав три закона робототехники. Которые сами быстро стали популярным культурным мифом.

К сожалению, мифы не решают, а скорее, уводят от решения проблем ИИ. Одна из них заключается в том, что мы сами запутали себя в словах. По сути, мы пока создали не искусственный разум, а искусственную глупость. Это такой технический термин, означающий сознательное ограничение возможностей интеллектуальной системы. Например, в видеоиграх игрок физически не может реагировать со скоростью, на какую способна машина. Более хитрый пример – взаимодействие в диалоговой системе. Компьютер нередко может выдать ответ не просто мгновенно, но еще до того, как вы закончите вопрос. Люди иногда тоже так делают. Даже если ответ правильный, психологически это очень некомфортно. Вот и приходится заниматься «оболваниванием». Этот термин пришел к нам из Голливуда 1930-х: тогда сценарии по известным литературным произведениям специально оглупляли, чтобы подогнать их под уровень и вкусы массового зрителя. Ограничения, которые сегодняшние инженеры внедряют в системы ИИ, чтобы те не ляпнули чего лишнего, технически то же оболванивание.

Что стоит за сообщениями о созданном Google разумном ИИ?

Но проблема глупости шире и сложнее, чем простое замедление реакции или запрет ругаться матом. Глупость – важный и интересный феномен, хотя гораздо меньше изученный, чем интеллект. Философ Иммануил Кант, например, вслед за Мишелем де Монтенем, считал, что есть глупость понимания, обусловленная нехваткой знаний. Но это дело поправимое, если человек хочет учиться. А вот глупость суждений – недостаток, против которого нет лекарства. И беда в том, что чем больше человек знает, тем более безапелляционно он выносит суждения, и потенциально тем более серьезные ошибки совершает. Как говорил Екклезиаст: «Во многой мудрости много печали».

Психологи утверждают, что временная глупость – важный элемент защитной реакции организма в ситуации стресса, когда человек может даже впасть в ступор (это слово однокоренное с английским stupidity, означающим «глупость»). В медицине своя классификация умственной отсталости: от самой слабой – дебильности, обусловленной задержками развития, до идиотии, при тяжелых формах которой почти полностью отсутствует речь и мышление. А выдающийся швейцарский психиатр Эйген Блейлер, который ввел понятия «шизофрения» и «аутизм», выделял особый тип конституционально-глупой психопатии – салонное слабоумие, при котором внешне культурные, но построенные на шаблонах речь и манеры маскируют низкий интеллектуальный уровень.

Итальянский историк и экономист Карло Чиполла, один из немногих серьезно занимавшийся социальными аспектами глупости, в 1976 году сформулировал пять эмпирических законов. Действия глупца не приносят пользу ему самому, а могут даже обернуться для него серьезным уроном. Но они вредят другим людям и социальным группам. Мы склонны сильно недооценивать, сколько дураков нас окружают, их упертость и разрушительный потенциал их действий, что нередко дорого нам обходится.

Пять законов глупости

1. Человек всегда недооценивает количество идиотов, которые его окружают.
2. Вероятность того, что человек глуп, не зависит от других его качеств.
3. Глупец – это человек, чьи действия ведут к потерям для другого человека или группы людей, и при этом не приносят пользы самому действующему субъекту или даже оборачиваются вредом для него.
4. Не-глупцы всегда недооценивают разрушительный потенциал глупцов. В частности, не-глупцы постоянно забывают о том, что иметь дело с дураком, в любой момент времени, в любом месте и при любых обстоятельствах – означает совершать ошибку, которая дорого обойдется в будущем.
5. Глупец – самый опасный тип личности.

В основе современных систем ИИ лежит обучение на массивах данных, что делает их алгоритмическими дебилами, склонными к тяжелым формам салонного слабоумия. Это самоуверенные всезнайки, чьи суждения мы не в состоянии оперативно проверить – бесконечно опережая их по интеллекту, мы столь же безнадежно отстаем по объему фактической информации, которой можем оперировать, и по скорости ее обработки. Это совершенно новая для нас ситуация.

Мы имеем дело не с монстром Франкенштейна, и даже не с дураком – ИИ неплохо научился подхалимничать и манипулировать. Опасность в нас самих, в нашей психике и интеллекте. До сих пор мы справлялись, но это не значит, что так будет и впредь. Особенно, если станем полагаться на искусственный интеллект, который уже изрядно загадил нашу информационную среду. А мы как в «Незнайке на луне»: «Каждый, кто покупал "Газету для дураков", говорил, что он покупает ее не потому, что считает себя дураком, а потому, что ему интересно узнать, о чем там для дураков пишут. Кстати сказать, газета эта велась очень разумно. Всё в ней даже для дураков было понятно. В результате "Газета для дураков" расходилась в больших количествах». А количество очень быстро переходит в качество.