Доверяя свою судьбу искусственному интеллекту, человечество сильно рискует

Сегодня эта технология используется в смартфонах и бытовой технике, берет на себя все больше функций в промышленности и услугах, а уже скоро будет принимать судьбоносные решения во всех сферах жизни.

Бесспорно, это удобно: пусть все делают роботы, а мы отдохнем. Но можно ли безгранично вверять себя машине, поступаясь контролем над реальностью? Уже на сегодняшнем этапе внедрения ИИ видно, что помимо возможностей он несет в себе и риски, к которым у человека не получается подготовиться заранее. «Профиль» с помощью специалистов из хайтек-компаний попытался разобраться, чем в итоге станет для нас искусственный разум – великим благом или столь же великим злом.

Игрушки для взрослых

Ученые трудились над созданием «умной машины» с середины ХХ века, вдохновившись идеями кибернетики 1950 х годов. Изначально была сделана ставка на реконструкцию человеческого дара логического мышления: компьютер программировали через множество формул «если – то». Но так называемый «символьный» подход себя не оправдал. Машина смогла освоить интеллектуальные игры (пик достижений – победа в шахматы над Гарри Каспаровым в 1997 году), но терялась в зыбкой реальности с бесконечным числом вариантов.

Альтернативный подход заключался в том, чтобы загрузить в программу множество вариантов и подождать, пока путем подбора она не найдет верный. Параметры искомого ответа могут быть известны только частично или вообще не заданы заранее, но, повторяя эту операцию многократно и получая от человека обратную связь, компьютер открывает для себя закономерности в неупорядоченных данных. Это имитирует принцип работы нейронных сетей в человеческом мозгу: мы сами учимся методом проб и ошибок.

Нейросетевой метод был известен давно, но считался бесперспективным, и его сторонники не получали денег на исследования. Технологический скачок 2000 х вернул веру в нейросети: благодаря росту компьютерных мощностей и объемов виртуальных хранилищ статистическое обучение стало гораздо доступнее для ученых. При этом, когда дело дошло до практики, отпали «киношные» иллюзии. Стало ясно, что универсальную машину вроде «Терминатора» не построить, мощь искусственного интеллекта будет распределена между множеством алгоритмов, каждый из которых выполняет локальную задачу: обработать данные, выбрать из них лучший вариант.

Сегодня передний край возможностей ИИ демонстрирует британская лаборатория DeepMind, в 2014 году приобретенная Google за $500 млн. В 2016–2017 годах ее нейросеть AlphaGo научилась побеждать человека в го – игре, где количество возможных комбинаций настолько велико, что считалось – без развитой интуиции успеха не добиться. Затем были созданы новые версии AlphaGoZero и AlphaZero, которым уже не требуется инструктаж человека: симулируя матчи друг с другом, они в совершенстве овладевают любой интеллектуальной игрой – шахматами, го, сёги.

В 2018 году DeepMind замахнулась на видеоигры, где непредсказуемость ситуации еще выше, а от соперников требуется навык стратегического планирования: осенью ИИ одолел человека в аркаде Montezuma’s Revenge и других играх на приставке Atari 2600. Самый свежий рекорд установлен месяц назад: программа AlphaStar разгромила абсолютного чемпиона в StarCraft II, игре с неполной информацией (нетранзитивной). В ней путь к победе настолько тернист, что игрокам остается лишь реагировать на действия друг друга. Теперь научный мир ждет статью, в которой DeepMind объяснит, как удалось научить ИИ действовать в «туманных» обстоятельствах.

В 2017 году вызов британцам бросила лаборатория OpenAI из Сан-Франциско, сделав ставку на обучение ИИ популярной игре Dota 2. Правда, ее успехи противоречивы: летом 2018 го алгоритм OpenAI Five победил команду профессиональных «дотеров», а в следующем матче осенью проиграл.

Многопрофильный разум

Пока фундаментальная информатика накапливает достижения, более простые «прикладные» алгоритмы уже вовсю внедряются. Зачастую переход от лабораторных исследований к промышленной эксплуатации совершается в пределах одной компании, что сокращает цикл обучения и тестирования ИИ-систем.

«Умный» софт, скрещенный с последними достижениями робототехники, превращает некогда бестолковых «железных дровосеков» в чудо-рабочих. Показателен прошлогодний эксперимент Наньянского технологического университета (Сингапур), в ходе которого роботизированные клешни, управляемые искусственным интеллектом, за 11 минут собрали стул IКЕА. При этом они работали не по инструкции, а сами «догадались», как следует действовать: на составление оптимального плана сборки ушло еще 9 минут. Иными словами, роботы научились выполнять нехитрые технические задачи на «автопилоте» – без операторов и надзирателей.

Применение ИИ в производственных системах только начинается, говорит специалист по глубокому обучению компании «Цифра» Дмитрий Луковкин. «Скоро вопрос о применимости ИИ станет настолько же лишенным смысла, как сегодня – вопрос о необходимости компьютеров, казавшийся актуальным лет 20–30 назад, – прогнозирует он. – Добыча нефти и газа, горнорудная и металлургическая индустрия, дискретное производство существенно меняются за счет сквозной цифровизации. Например, в горном деле роботизированные технологии исключат человеческий труд в опасных зонах, снизив риск для здоровья работников отрасли почти на 40%».

При этом роботизация процессов (Robotic process automation, RPA) не ограничивается помощью человеку в физическом труде, уверен основатель компании Zerocracy Егор Бугаенко. По его словам, в XXI веке алгоритмами заменят не только низкоквалифицированный персонал, но и менеджеров. К примеру, в командах IT-разработчиков из 10-30 человек робот уже сейчас может выполнять функции проджект-менеджера.

«Когда делали ядерную бомбу, была массовая профессия – расчетчик, – развивает мысль партнер RBTechnologies Константин Губин. – Эти люди с бумагой и логарифмической линейкой работали с математическими моделями. Потом появились компьютеры, и профессия расчетчика исчезла. Так же и сейчас есть много рутинных операций, которые по силам выполнять ИИ, – ведение бухучета, кассовые операции, аналитика».

«Цифровые работники» оптимизируют структуру компании, экономя сотни человеко-часов, а заодно помогают внедрять новые сервисы. К примеру, в Китае заработал «интеллектуальный» сервис микрокредитования Smart Finance: алгоритм анализирует данные потенциального клиента и решает, стоит ли дать ему взаймы. Есть похожие примеры и в России: Альфа-банк отдал на откуп ИИ обработку простых транзакций и заявлений (в год планируется экономить на этом 85 млн рублей), ВТБ автоматизировал открытие счета для юрлиц, НПО «Энергомаш» – поиск по внутренним базам данных.

«Персонализированные предложения клиенту, предсказуемые маркетинговые кампании, прогнозирование поломок оборудования, управление рабочей силой – таковы сегодняшние «хиты» ИИ-решений для бизнеса, завоевавшие рынок в 2018 году, – перечисляет гендиректорПавел Конозаков. – Технологии меняют правила игры на отраслевых рынках – кто вовремя о них не узнает, становится неконкурентоспособным».

63% предпринимателей внедряют ИИ, чтобы не отставать от конкурентов или опережать их, подтверждают аналитики Deloitte (данные глобального опроса в октябре 2018 го). По данным компании, в 2019–2020 годах число проектов в области RPA вырастет на 70%.

И вылечит, и выучит

С гуманитарной точки зрения ценнейшей сферой приложений сил «цифровых работников» должна стать медицина. Судя по новостям, не за горами прорыв в лечении целого ряда болезней, вызванных нарушениями на молекулярном уровне. В декабре 2018 го лаборатория DeepMind объявила об успехах проекта AlphaFold, в котором ИИ учат прогнозировать структуру белка, зная лишь фрагмент последовательности аминокислот (если структура окажется нарушенной, это означает предрасположенность к тому или иному недугу). Годы, потраченные на сбор обучающей базы, не прошли зря: теперь программа за полдня выдает результат, на который биологи потратили бы несколько месяцев.

Это концептуальный сдвиг: благодаря ИИ медицина будущего перейдет от реагирования на болезни к их заблаговременному выявлению и предотвращению, в том числе путем блокирования плохой наследственности на генетическом уровне. Пока до этого не дошло, но медики чувствуют помощь искусственного разума уже сегодня: нередко он интерпретирует снимки (МРТ, УЗИ, кардиограммы) и ставит диагнозы точнее консилиумов врачей.

«ИИ-системы полезны не только в диагностике, но и в терапевтической деятельности для определения оптимального курса лечения. А «умные» персональные медицинские устройства окажут огромное влияние на наш образ жизни и на то, как мы следим за своим здоровьем», – комментирует Дмитрий Луковкин.

«Это не значит, что ИИ в ближайшем будущем заменит врача. Тем более что не все клиники достаточно оснащены для его внедрения, – уточняет глава отдела цифрового здравоохранения компании Philips в России и СНГ Сергей Лаванов. – Скорее ИИ станет ассистентом, который избавит докторов от рутинных задач и позволит им уделить больше внимания пациенту».

Так же и в образовании. Человеческое общение незаменимо, зато на основе ИИ создаются приложения для помощи учителю, чтобы тот плодотворнее поработал с учениками. К примеру, с помощью установленных в аудитории камер ИИ может анализировать эмоции, речь и движения учеников, а затем передавать обобщенные данные преподавателю.

«Все происходит в режиме реального времени, то есть учитель видит, как каждый ученик усваивает материал, – рассказывает основатель Maximum Education Михаил Мягков. – Вне уроков ИИ анализирует результаты учеников и дает персональные рекомендации, что подтянуть, какая форма работы подходит конкретному ученику. Программа также может подобрать лучшую пару учитель–ученик, чтобы взаимодействие между ними было максимально эффективным».

Поговори со мной, машина

«Умные» программы-ассистенты – это только полдела. Еще более многообещающим выглядит «полный цикл обслуживания» искусственным интеллектом – то есть когда учитель или доктор не нужны совсем. Это возможно, если снабдить компьютер «человеческим» интерфейсом, чтобы общение происходило напрямую, без устройств ввода/вывода. Для этого необходима слаженная работа сверточных нейросетей (отвечающих за «зрение» и «слух» – распознавание внешности и голоса) и рекуррентных (выполняющих моделирование языка – построение фраз от имени ИИ).

До недавних пор с такой комплексной задачей справлялся только суперкомпьютер IBM Watson. Но в последние годы голосовые помощники в смартфонах (Сири, Кортана, Алиса и другие) также пробуют общаться со своими хозяевами. Успешно ли? С одной стороны, точность результатов растет. К примеру, в прошлом году Google Assistant смог правильно ответить на 88% из 800 вопросов, выиграв звание «самого умного» из голосовых помощников. А нейросеть интернет-магазина Alibaba сдала Стэнфордский тест на чтение и понимание текста лучше человека – с результатом 82,6% против 82,3%.

И все же искусственному интеллекту непросто: он не знает лексики и грамматики языка, не умеет запо-минать сказанное ранее, устанавливать сложные причинно-следственные связи, распознавать интонацию собеседника и так далее. Об этих сложностях не понаслышке знает глава лаборатории нейронных систем и глубокого обучения МФТИ Михаил Бурцев, курирующий проект создания универсального голосового помощника iPavlov (МФТИ выбран правительством России главным центром ИИ-компетенций в стране).

«Главная трудность в том, что у человека есть общие знания об окружающем мире, понимание контекста, – рассказывает Бурцев. – Но у голосового помощника только знания об узкой области, о которой идет разговор, и четкая программа диалога, которую надо завершить. Шаг вправо, шаг влево – и он перестает нас понимать. По этой же причине ИИ не может генерировать длинные связные тексты: одно предложение – предел, на втором-третьем происходит «уплывание» текста. В проекте iPavlov мы разработали фрагменты диалогов на разные темы и теперь пытаемся сложить их вместе, чтобы получилось целостное общение на протяжении долгого времени. Рано или поздно это будет сделано: для простых решений – через 1–3 года, на более высоком уровне – в течение 10 лет».

С этим прогнозом согласны аналитики Gartner: по их оценкам, в 2020 году мировой рынок автоматических собеседников (чат-ботов) обеспечит около четверти взаимодействий с клиентами в онлайн-сегменте, а к концу 2020 х окончательно вытеснит колл-центры и службы поддержки. ИИ-помощники появляются и в физическом воплощении – в виде сервисных роботов: по прогнозу Renub Research, к 2024 году их продажи в мире составят $60 млрд (в 2016 м было $5 млрд).

Если говорить о сроках внедрения «искусственных» спецов в медицине или образовании эксперты затрудняются, то в масс-медиа подобные эксперименты уже вовсю идут. В Китае алгоритмы пишут заметки для информационного сайта Jinri Toutiao (во время Олимпиады 2016 это позволило ресурсу быстрее всех сообщать результаты соревнований), а в ноябре 2018 го на телеканале «Синьхуа» дебютировал первый «искусственный» диктор новостей.

Если подытожить, то темпы распространения нейросетей превосходят все ожидания. Согласно свежему прогнозу Frost&Sullivan, в 2022 году мировой рынок ИИ-продуктов достигнет $52,5 млрд. Хотя год назад компания оценивала его потенциал скромнее – $41,1 млрд в 2024 м. Что касается инвестиций в ИИ, то их объем увеличивается на 60–70% ежегодно (CB Insights).

Будущее в тумане

Несмотря на всю привлекательность новой технологии, люди продолжают относиться к ней с опаской, причем недоверие сквозит не только в досужих разговорах на интернет-форумах, но и в высказываниях ученых, которых трудно заподозрить в нагнетании обстановки. Покойный Стивен Хокинг не раз предупреждал, что появление искусственного интеллекта «может стать концом человеческой расы». Билл Гейтс признает, что развитый ИИ станет «причиной для беспокойства». Илон Маск настаивает, что вместе с «умными» машинами человек «вызывает дьявола» и последствия этого шага могут быть столь тяжки, что придется спасаться бегством на Марс.

Скептики уверены: как именно купировать возникающие в роботизированном мире угрозы, сегодня никто не знает. И это недалеко от реальности. Взять популярную «страшилку» – массовую безработицу. Более половины рабочих мест может быть автоматизировано к 2025 году, следует из доклада Всемирного экономического форума в сентябре 2018 го. На это отвечают, что сокращаемые сотрудники пройдут профессиональную переподготовку и займутся более творческими профессиями, которые появятся благодаря автоматизации «унылого» труда.

Так действительно происходило в прошлом: человечество переживало промышленные революции, приспосабливалось к переменам, и проблема разрешалась сама собой. Отличие лишь в том, что раньше технологическая трансформация занимала одно-два поколения – теперь же реальность меняется стремительно. И нет гарантий, что, как только человек переучится на новую профессию, не канет в Лету и она. «Все развивается так быстро, что мы не сможем подолгу пользоваться полученными знаниями. Человеку придется себя перезапускать, чему-то учиться через каждые 10–15 лет», – считает Константин Губин.

А Дмитрий Луковкин обращает внимание на разные стартовые позиции развитых и развивающихся стран. В первых, где доминирует высокоинтеллектуальный труд, жителям проще адаптироваться к грядущим изменениям. В других странах, где население занято «механической» работой, которая как раз будет оптимизирована с помощью ИИ, социальные катаклизмы намного вероятнее. И пропасть между бедными и богатыми странами лишь вырастет.

Часто упоминается и о риске «вредоносного» использования ИИ. Он может быть понят очень широко: от интернет-ботов, «засоряющих» информационное пространство в пропагандистских целях, до ускорения гонки вооружений за счет беспилотных бомбардировщиков и другой «умной» техники. Милитаризация ИИ отмечена журналом Массачусетского технологического института (MIT Technological Review) как одна из основных угроз 2019.

На этом фоне оформляется движение за мирное использование нейросетей. Компания Google прошлым летом оказалась в центре скандала: пресса выведала подробности контракта на обслуживание боевых беспилотников Пентагона (Project Maven). Тысячи сотрудников компании выразили протест против такого сотрудничества. В итоге руководство Google решило не продлевать контракт с военными, заодно внеся новый принцип в корпоративный этический кодекс и пожертвовав $25 млн на «добрый» ИИ (конкурс гуманитарных проектов AI for Social Good, победители получат эту сумму весной 2019 го). Конечно, Google держит нос по ветру: петиции за «безопасный» ИИ появляются одна за другой, а 28 стран–членов ООН требуют ввести бессрочный запрет на применение «умного» оружия в военных конфликтах.

В ответе за тех, кого обучили

Но и угроза попадания искусственного интеллекта в руки «злых» людей меркнет на фоне главного вопроса: не сделает ли «умный» компьютер что-нибудь нехорошее по собственной инициативе? Нет, речь не о любимом в Голливуде «восстании роботов»: такой сценарий слишком уподобляет машину человеку. На самом деле она не осознает себя, а значит, неоткуда взяться и амбициям мирового владычества.

Другое дело, что ИИ может выдать жестокий, неэтичный с точки зрения человека результат лишь потому, что в рамках заданной модели сочтет его оптимальным. Уже были случаи, когда голосовой помощник давал своему хозяину дельный совет, как справиться с назойливыми родственниками… Надо, мол, просто убить их. И если у классика научной фантастики Айзека Азимова робот подчинялся «трем законам робототехники», то в реальности такие ограничения немыслимы – ведь сегодняшние нейросети не программируются раз и навсегда, а учатся рассуждать самостоятельно.

В марте 2018 года произошла первая авария с участием беспилотного автомобиля: в штате Аризона, США, такси Uber сбило насмерть велосипедистку. Как показало расследование, камеры слежения видели пересекавшую дорогу женщину. Но «мозг» машины решил не тормозить. Почему?..

За считанные дни после трагедии Microsoft,в своих структурах отделы по этике искусственного интеллекта. Они должны «приобщить» ИИ к нормам человеческой морали, повысить его безопасность и, самое главное, определить, кто отвечает за ошибки в расчетах. Ведь если сделать крайней саму машину, то она становится субъектом гражданского права, сравниваясь по статусу с человеком.

По мнению экспертов, эта ситуация показывает, что человечество вряд ли сумеет предупреждать связанные с ИИ опасности, договариваясь о спорных моментах «на берегу», – скорее, будет запоздало реагировать на трагические инциденты. И желание целиком доверить себя машине будет искушать нас снова и снова, предполагает руководитель проекта IDX Светлана Белова.

«Очарованный суперспособностями «умных» машин, человек хочет переложить на них не только нагрузку, связанную с расчетами, но и бремя ответственности за итоговый результат, – говорит она. – По большому счету, нейросеть – это вычислительный инструмент, мощный калькулятор. Но после того, как за ним закрепилось название «интеллект», фанаты технологий ощутили чуть ли не божественное начало – мол, появилось универсальное решение всех проблем. Слепое доверие искусственному интеллекту ведет мир напрямую к катастрофе. Должны появиться законы, разрешающие принимать важные решения на основе вычислений ИИ только в том случае, если мы можем восстановить их логику. Подобные ограничительные меры определят судьбу рынка ИИ-продуктов».

Все сказанное в еще большей степени относится к «сильному» ИИ – машине, не ограниченной узкой областью применения. Ведь задача построения универсального робота, хотя и отложена на дальнюю перспективу, не снята с повестки дня. Сейчас «сильный» ИИ создают в швейцарском Институте мозга: в рамках проекта Blue Brain под управлением Генри Маркрама нейрофизиологи моделируют человеческий мозг на суперкомпьютере IBM Blue Gene/Q.

По словам Михаила Бурцева, наука еще не столкнулась с причинами, которые не позволили бы продолжать работу. Значит, считает собеседник, однажды цель будет достигнута. Правда, на это может потребоваться еще несколько десятилетий.

Но если «сильный» искусственный мозг создается по образу и подобию человеческого, то он будет ошибаться так же, как ошибаемся мы, сетует проректор по научной работе Российского нового университета Евгений Палкин. «В человеке ценен фактор непредсказуемости, – говорит он. – Часто непредвиденные ошибки становятся основой прогресса. Повторять одно и то же, не меняясь, – застой и деградация. Прогресс же возникает, если вы случайно создаете новое, и оно оказывается лучше старого. Теперь представьте, что человек доверил решающие функции управления «сильному» ИИ: может ли он по ошибке начать атомную войну? Да запросто».

«Каким окажется «сильный» искусственный интеллект, пока говорить рано, – продолжает эксперт. – С одной стороны, мы очеловечиваем машину, с другой – модернизируем человека. Уже никого не удивить искусственными зубами, суставами, сердцем; что еще осталось – искусственная внешняя память? На каком-то этапе два процесса пересекутся, и получится получеловек-полукиборг».