Пока подобные системы работают с ошибками либо покрывают ограниченную площадь. Но через несколько лет человек действительно окажется «под колпаком». Это касается и России. В нынешнем году «интеллектуальное» наблюдение запустят в Москве. Позже, в рамках построения «умных городов», технология придет в регионы. Чем грозит нам новая реальность, «Профиль» попытался разобраться с помощью экспертов из высокотехнологичных компаний.

Техника прозрела

В базу компьютера вносят тысячу изображений с пометкой «собака», затем еще тысячу «кошек». После того как искусственный интеллект (то есть специальный программный код, алгоритм) обработает их, усвоив различия, он должен с определенной долей вероятности отличить «собак» от «кошек» в следующей выборке. Операцию повторяют много раз, помечая неправильные ответы, и точность результатов улучшается. При этом программа не имеет представления, кто такие «кошка» с «собакой», а тем более не в курсе классификации животного мира. Так упрощенно выглядит методика глубокого обучения, создающая одну из главных технологий нашего века – компьютерное зрение.

Распознавание лиц – одна из главных областей ее применения. Программа фокусируется на характерных признаках внешности, отмечая порядка 100 опорных точек: расстояние между глазами, размеры бровей, носа, подбородка. Совокупность этих параметров дает уникальный портрет.

В широком смысле это один из способов биометрической идентификации, которая уже не считается ноу-хау. Но, в отличие от дактилоскопии или сканирования сетчатки глаза, распознавание лиц можно выполнить на расстоянии, для него не требуется согласие «подопытного». При этом можно не только установить личность, но и определить эмоции, реакцию на внешние раздражители, искренность поведения – практически «заглянуть в душу».

А если лицо плохо видно или замаскировано, ИИ способен вычислить человека по походке, анализируя положение его тела в каждой фазе шага (gait analysis). Одним словом, не скроешься.

Всевидящий дракон

В начале 2010 х бесспорным лидером в исследованиях ИИ считались США. Но в последние годы ситуация стала меняться в пользу Китая. По распространенному мнению, катализатором процесса стали успехи компьютера в игре го: в начале 2017 года программа Alpha Go разгромила лучшего китайского гроссмейстера. И если для Запада это было лишь покорение очередной отметки, то в Поднебесной, где го имеет чуть ли не священный статус, новость произвела фурор.

Летом 2017 го председатель КНР Си Цзиньпин заявил о намерении построить в стране экономику будущего на основе искусственного интеллекта и больших данных. Согласно плану, в 2020 году китайский рынок ИИ должен достичь $22 млрд, в 2025 м – $60 млрд, в 2030 м – $150 млрд.

Высокотехнологичным компаниям обещаны широкие меры поддержки – субсидии, госзаказы. Главным козырем китайских разработчиков ИИ, которого лишены их конкуренты в других странах, стала колоссальная база данных, на которой можно тренировать алгоритмы. Власти КНР охотно делятся ею с учеными.

Неудивительно, что «интеллектуальные» стартапы растут в Китае как на дрожжах. Один из них – SenseTime из Гонконга – был образован в октябре 2014 года как лаборатория по распознаванию лиц в одном из вузов. За четыре года компания приобрела более 400 клиентов, привлекла $3 млрд инвестиций и теперь считается самым дорогим ИИ-стартапом мира. Ее ближайшие конкуренты – Face++, Deep Glint и стартап Watrix с передовыми наработками по распознаванию походки. А также национальный поисковый сервис Baidu, открывший собственный Институт глубокого обучения.

Со своей стороны, рынок поддержали производители техники. В китайских смартфонах идентификация по лицу и разнообразные «лицевые команды» стали фирменной фишкой. А компания Hikvision Digital Technology завалила мир дешевыми CCTV-камерами: по данным IHS Markit, ее доля на глобальном рынке устройств видеонаблюдения выросла с 8% в 2012 году до 21% в 2018 м. В США камеры Hikvision установлены даже в отделениях полиции и на военных базах, чем весьма обеспокоены политики.

Сам Китай начали обвешивать камерами в 2005 году. В 2015 м ими были охвачены все улицы Пекина. Поначалу видео просматривали полицейские (в Пекине на это потребовалось 4,3 тыс. сотрудников), что делало сбор данных малоэффективным – получалось лишь расследовать нештатные ситуации. Но в 2015 году власти объявили о подключении устройств к системам автоматического распознавания лиц.

В 2017 году во всем Китае насчитывалось 176 млн «интеллектуальных» камер, а в 2020 м их число должно составить 626 млн. Планируется, что к тому моменту программа, получившая название «Зоркий глаз», покроет людные места во всех городах страны и будет идентифицировать гражданина в течение трех секунд с точностью 88%.

Лица китайцев распознают не только на улицах. Страна буквально одержима новой технологией. Платежный сервис Alipay привязал счета пользователей к их фотографиям, и теперь им достаточно сделать селфи, чтобы перевести деньги. В ресторанах KFC можно оформить заказ, показав себя камере платежного терминала.

В некоторых банкоматах вместо карты достаточно «предъявить» лицо, и система выдаст купюры. В аэропортах с 2017 года практикуется регистрация на рейс без документов: посадочным талоном является сама внешность пассажира. В жилых комплексах лицо служит пропуском на территорию или в отдельные здания – «распознаватель» может быть встроен даже в дверной замок.

Неусыпный контроль установлен над китайскими подростками. Прогулять уроки нелегко: в учебную форму встроены чипы, считываемые камерами на входе в школу. Камеры наблюдения в классе распознают настроение учеников, выискивая тех, кто отвлекся или заскучал: им снизят балл за работу на уроке. А вечером не получится «зависнуть» в видеоиграх. Их крупнейший производитель Tencent использует камеры гаджетов для идентификации игроков: детям до 12 лет система разрешает играть не больше часа в сутки, тинейджерам – не больше двух, затем игра отключается.

Фейс-контроль для плохих парней

Власти Китая утверждают, что общественная польза от распознавания лиц неоценима. Регулярно докладывается о «подвигах» ИИ в деле обеспечения порядка. В сентябре 2017 го полиция благодаря камерам обнаружила 25 разыскиваемых граждан на пивном фестивале. А в апреле 2018 го нашла подозреваемого в преступлении в 60 тысячной толпе на поп-концерте.

В прошлом году полицейским стали раздавать портативные очки-«распознаватели». Надев их, патрульный наверняка не упустит преступника: очки сканируют прохожих в зоне видимости, за пару минут находя совпадения в базе данных, если лицо видно хотя бы на 70%. Сообщалось, что за первые недели применения очки помогли задержать десятки злоумышленников.

Отдельный фронт работы для ИИ образовался в связи с желанием властей отрегулировать дорожное движение. На перекрестках установили камеры вместе с экранами, куда мгновенно выводятся данные о нарушителях, перебегающих дорогу на красный свет. Позже их находит полиция, предлагая в качестве наказания одну из трех мер: штраф в размере $3, посещение лекции о правилах перехода через проезжую часть или помощь регулировщику в управлении трафиком.

Самым болезненным для «бегунов» оказывается публичное порицание на большом экране. В итоге там, где было установлено оборудование, количество нарушений снизилось в 10 раз. Вывод властей: затраты в $15 тыс. на перекресток себя окупают.

Китайцы уверены, что алгоритмы распознавания способны на большее: не просто ловить преступников, но не допускать сами злодеяния. ИИ-стартап Cloud Walk из Гуанчжоу уже разработал систему, позволяющую анализировать степень подозрительности поведения в публичных местах: если человек ведет себя шумно или странно (например, бесцельно бродит по вокзалу, вместо того чтобы сесть на поезд и уехать), в полицию поступает сигнал обратить на него внимание. В подозреваемые записывают и тех, кто посещает магазины оружия, клубы с игровыми автоматами и прочие злачные места.

Как тут не вспомнить систему предсказания преступлений (crime prediction) из «Особого мнения»? Или Полицию мыслей (Thought Police) из «1984», карающую за мыслепреступления?..

Цифровая диктатура

Джордж Сорос не первый, кто обратил внимание на схожесть реалий КНР с сюжетами антиутопий. Обеспокоенность тем, к чему приведет контроль над обществом в таких масштабах, звучала с разных трибун: китайские порядки называли и «цифровой диктатурой», и «современной формой политической инженерии».

Масла в огонь подливает разрабатываемая Пекином с 2014 года система социального кредитования. Она во многом базируется на видеонаблюдении, но не ограничивается им: здесь отслеживаются не только перемещения человека, но любая офлайн- и онлайн-активность. График налоговых платежей и состояние банковского счета, история покупок и лайки в интернете, социальные связи – все идет в ход.

Искусственный интеллект сопоставляет разнородную информацию и выводит общую «оценку» гражданина. Не заплатил вовремя штраф или грубил в интернете, ездил без билета или курил в транспорте, клеветал на партию или просто постоял рядом с нежелательным человеком? Теряешь баллы. Жертвуешь на благотворительность, добровольно сдаешь кровь, уважаешь старших? Рейтинг растет.

Количество накопленных баллов напрямую влияет на уровень жизни. «Отличники» получают скидки, льготные кредиты и прочие поощрения от властей. «Двоечникам» сложнее снять жилье и устроиться на работу, их не обслуживают в популярных заведениях, не регистрируют на сайтах знакомств. Зловещая тень ложится на семью и друзей неудачника: их рейтинг тоже страдает, что заставляет избегать общения с «неприкасаемым».

«Система социального кредитования имеет дело уже не с преступниками, а с обычными, хотя и не самыми ответственными гражданами, – поясняет специалист по глубокому обучению компании «Цифра» Дмитрий Луковкин. – Она призвана закрепить набор поведенческих паттернов, «оптимизировать» людей. Могут ли власти заниматься подобным, на основании чего задано целевое поведение – это другие вопросы. Но в Китае их не задают».

Пекин планирует выстроить общенациональную систему к 2020 году, и тогда восторжествует «гармоничное социалистическое общество». Сейчас же она действует в отдельных городах. Наступившая там «гармония» удостоилась пристального внимания СМИ весной 2018 года, когда стало известно, что власти закрыли «низкорейтинговым» китайцам доступ на «элитные» виды транспорта: их заявки на 11 млн авиабилетов и 4,25 млн билетов на высокоскоростные поезда были отклонены.

Самым радикальным примером социального кредитования стал Синьцзян-Уйгурский автономный округ на западе Китая, где две трети населения составляют мусульмане-уйгуры. Судя по отношению к представителям этого этноса, им априори присвоен «неблагонадежный» рейтинг. Некоторых власти отправляют в лагеря перевоспитания, официально называемые центрами профессиональной переподготовки. В сентябре 2018 го правозащитная организация Human Rights Watch выступила с докладом о притеснениях уйгур, предположив, что на них Пекин репетирует «закручивание гаек» в национальном масштабе.

«То, что устроили в Синьцзяне, похоже на тюрьму под открытым небом, – комментирует китаист, эксперт по технологиям кибербезопасности Леонид Ковачич. – Хотя надо признать, что теракты в этом регионе сошли на нет, а ведь раньше их было немало. Так или иначе, большинство китайцев не слишком волнует происходящее на западе страны, да и сама система социального кредитования мало обсуждается. Лишь иногда официозные СМИ преподносят ее в позитивном ключе: мол, мы и так должны жить правильно, а теперь еще за это полагаются бонусы. Считается, что система способствует поднятию общественной морали, китайских «скреп». Заработает ли она в полную силу в 2020 году, неясно – в каждом регионе учет поступков ведется на свой манер, предстоит это унифицировать».

Камера смотрит в мир

Пекин не прочь делиться своими ноу-хау в надзорном деле с другими странами. Акцент делается на Латинскую Америку, где КНР последовательно наращивает экономическое влияние. Эквадор активнее всех подражает азиатскому патрону: слежка за гражданами установлена почти во всех провинциях страны, фиксируются любые действия в их мобильных телефонах. Филиалы компании CEIEC, агента Пекина в сфере «интеллектуальной» цензуры, также работают в Бразилии, Перу, Боливии, Венесуэле.

«Многие присматриваются к китайским технологиям, но не всем удается извлечь из них результат, – комментирует Ковачич. – Венесуэльскому режиму, как мы видим, они не помогли избежать массовых протестов. В Эквадоре, наоборот, за первый год видеонаблюдения преступность упала почти на 30%».

На Западе «чемпионом» по распознаванию лиц являются США, где локомотивом прогресса выступаютэту нишу с 2010 года: тогда опция Tag Suggestions открыла для пользователей возможность отмечать на фотографиях себя и друзей. Постепенно компания собрала один из крупнейших в мире каталогов лиц, и теперь, судя по слухам, не держит его за семью печатями от коммерческих партнеров.

Microsoft в 2016 м представил программу Azure Media Face Detector, способную распознать лицо на крохотном участке изображения размером 24х24 пикселя. На фотографии с высоким разрешением сервис может найти до 64 лиц. Вскоре у него появился конкурент – система Rekognition от Amazon, идентифицирующая на одном кадре уже сотню лиц.

В прошлом году Apple внедрила алгоритм распознавания FaceID в новейшую модель iPhone X. В 2019 м сканер лиц должен появиться в операционной системе Android от Google.

Спецслужбы США также не брезгуют технологией компьютерного зрения. В 2012 году ФБР запустило в нескольких штатах систему Trapwire стоимостью $1 млрд. Функционал у нее тот же самый: установить личность человека, определить его эмоциональное состояние, спрогнозировать намерения. А Пентагон совместно с Управлением перспективных исследовательских проектов (DARPA) разработал систему воздушного наблюдения ARGUS-IS: установленные на дронах суперкамеры способны выдать картинку с разрешением 1,8 млрд пикселей.

Есть и сообщения об успехах подобных систем. Так, летом 2018 го, когда распознавание лиц взяли на вооружение в 14 аэропортах США, первого злоумышленника, желавшего попасть в страну по чужому паспорту, обнаружили уже на третий день работы камер.

Однако в целом США отстали от Китая: в стране насчитывается лишь 50 млн «интеллектуальных» камер, а рынок компьютерного зрения составляет $2,9 млрд и растет всего на 0,7% в год (в Поднебесной – $6,4 млрд и +12,4% в год соответственно; данные IHS Markit). По подсчетам Ассоциации развития искусственного интеллекта, не сегодня завтра Китай обойдет США по публикациям в области ИИ. В 2012 году соотношение научных статей из этих стран составляло 41% на 10% в пользу США, в 2017 м – уже 34% на 23%. Если же взять статьи по теме глубокого обучения, то здесь китайцы вырвались на первое место еще в 2013 году.

В остальном мире программы распознавания применяются скорее эпизодически, чем системно. В Евросоюзе наиболее передовым проектом считается iBorderCtrl, запущенный в ноябре 2018 года. В рамках этой программы алгоритмами ИИ оснащены погранпункты в Латвии, Венгрии и Греции – с их помощью Брюссель надеется обуздать поток мигрантов нелегалов. В Японии готовят большую премьеру в 2020 м – система NeoFace от компании NEC должна будет распознавать гостей Олимпиады в Токио.

Ценности сопротивления

Иногда системам слежения не позволяет развернуться критика общественников, щепетильно относящихся к вопросу конфиденциальности данных. Так, в США еще несколько лет назад прозвучал тезис о том, что собирать «отпечатки лиц» незаконно. Летом 2012 го сенатор Эл Франкен выступил с известным докладом, в котором утверждалось, что сам факт анализа фотоснимка является вторжением в частную жизнь, ведь из него извлекаются уникальные параметры внешности.

В 2018 году разразился скандал с системой Rekognition. Выяснилось, что Amazon сдал ее в аренду околоправительственной компании Palantir, специализирующейся на больших данных, а также Иммиграционной службе США и полиции штата Флорида, планирующей на китайский манер покрыть камерами город Орландо.

В мае Американский союз защиты гражданских свобод (ACLU) и еще 70 правозащитных организаций выступили с открытым письмом к главе Amazon Джеффу Безосу, требуя прекратить сотрудничество с властями. «Люди имеют право ходить по городу без присмотра», – утверждалось в письме. В июне коллективный протест против «шпионского» применения Rekognition выразили уже сотрудники Amazon. Оправдания руководства компании выглядели не слишком убедительно: мол, если мы выясним, что некто использует Rekognition «безответственно», доступ к сервису будет перекрыт.

Этот пример послужил уроком для Google: в декабре компания сообщила, что не планирует продавать свои разработки в сфере распознавания лиц. Сначала нужно все «тщательно обдумать», чтобы использование ИИ «не привело к злоупотреблениям» и «не противоречило нашим ценностям», заявил вице-президент Google Кент Уокер.

Но и это не всех удовлетворило. Ряд организаций с говорящими названиями вроде Big Brother Watch («Большой Брат на страже») заявили о намерении бороться с «капитализмом надзора» (surveillance capitalism) до победного конца. Мол, сегодня за нами и так следят по полной программе, в интернете регистрируется каждый клик. Но уличные камеры – это перебор, ведь человек не может скрыть или зашифровать свое лицо. Следовательно, необходимо добиваться полного запрета на распознавание.

«Эти истории показывают, насколько перспективы внедрения ИИ зависят от социальных факторов – особенностей политического режима, местной этики, – рассуждает совладелец телекоммуникационной компании «Вертикаль» Георгий Чумбуридзе. – В обществах с сильной демократической традицией общество будет сопротивляться технологиям слежки, и небезуспешно».

Работа над ошибками

Помимо идеологических соображений, распространению «интеллектуальной» слежки препятствуют сугубо технические проблемы. Зачастую работа алгоритмов далека от идеальной. К примеру, в прошлом году программа Rekognition приняла 28 членов конгресса США за преступников, поставив своих создателей в неловкое положение. Примерно тогда же камеры с ИИ-модулем попробовали использовать в Лондоне – выяснилось, что программа ошибается в 90% случаев, а значит, о ее полноценном внедрении не может идти речи.

В Китае, где от тестирования быстро перешли к делу, за ошибки компьютера уже приходилось расплачиваться невинным гражданам. В ноябре 2018 го искусственный интеллект города Нинбо оштрафовал за переход на красный свет женщину по имени Дун Минчжу. Но ее самой на месте происшествия не было: перекресток проезжал автобус с фотографией Минчжу на рекламном баннере.

«Сегодня вероятность ложного срабатывания систем наблюдения в среднем составляет около одной миллионной, – говорит Дмитрий Луковкин из «Цифры». – Но при сотнях миллионов камер это приведет к сотням ложных идентификаций в день. Особенно велик риск, когда такие камеры устанавливают в автономных охранных или боевых системах».

Конечно, со временем точность результатов растет. К примеру, в 2015 году приложение Google Photos было не в состоянии отличить темнокожего человека от обезьяны. ВLab провели расследование, доказавшее, что причиной ошибок в подобных случаях является асимметричность обучающей выборки. ИИ натаскивают в основном на белых мужчинах – следовательно, женщин и темнокожих он различает хуже. Разработчики принялись устранять «дискриминацию», и в 2018 году программный код Rekognition уже демонстрировал локальные успехи в распознавании лиц афроамериканцев. Но 31% допущенных ошибок – все равно много.

Сколько лет потребуется на доработку алгоритмов, эксперты сказать затрудняются. Да и настанет ли вообще день, когда ИИ-системы заработают как швейцарские часы? Американский ученый Винтон Серф, считающийся одним из создателей Всемирной паутины, считает, что человек не сможет проконтролировать «лавину» техники: миллиарды «умных» устройств поступают и поступают в продажу, постепенно накопится критическое количество ошибок, и наступит глобальный коллапс.

«На нынешнем этапе необходимо, чтобы во всех расследованиях с использованием технологий распознавания активное участие принимал человек, который будет критически оценивать полученную информацию и принимать финальное решение», – делает вывод директор по информационным технологиям Mail.Ru Group Денис Аникин.

Потерять лицо

Еще одна угроза – преднамеренная кража данных, накапливаемых системами видеонаблюдения. По подсчетам South China Morning Post, база образцов внешности китайских граждан «весит» 90 терабайт – то есть унести полный «лицевой каталог» самой многонаселенной страны мира можно всего на нескольких жестких дисках.

Для Китая эта проблема тем актуальнее, что данные для системы социального кредитования собираются из множества источников, а значит, и выше риск утечки. Причем, используя те же нейросети, злоумышленник может на основе украденных фотографий представить жертву в каком угодно свете. В прошлом году в Сети начали распространяться deepfake-видео: созданные искусственным интеллектом ролики с использованием внешности реальных людей. Это уже не любительские «фотожабы»: поддельные ролики пугающе реалистичны, их героям было бы непросто доказать, что они не замешаны в подсудных деяниях.

«В китайских городах, где обкатывают социальное кредитование, бывали случаи, когда аккаунты жителей подделывались, от их имени совершались «неправильные» покупки, и за счет этого у людей падал рейтинг, – рассказывает Ковачич. – В итоге началась дискуссия о том, как повысить информационную безопасность системы, но пока никакой стратегии, конкретных мер не выработано. Пекин рассчитывает решить все проблемы административным ресурсом».

По словам экспертов, распознавание лиц стало феноменом жизни, и национальные правительства не смогут наблюдать за ним со стороны. В декабре 2018 го о необходимости скорейшей разработки регламентов для этой технологии заявил президент Microsoft Брэд Смит. В январе его поддержал гендиректор компании Сатья Наделла, признав, что саморегуляции IT-компаний в этом чувствительном вопросе недостаточно.

Соответствующий закон в США может быть принят в нынешнем году, один его проект уже представила Федеральная комиссия по торговле, другой – эксперты университета Джорджтауна (Center on Privacy & Technology). Как предполагают американские СМИ, в законе пропишут и полномочия госструктур в сфере распознавания, и страховочные решения на случай роковых ошибок.

И мы туда же

В России апологетом развертывания «шпионских» видеосетей выступает мэрия Москвы. В прошлом году распознавание лиц заработало в столичном метро. В 2019 м планируется оснастить этой технологией камеры на всей территории города, что обойдется бюджету Москвы в 7,5 млрд рублей плюс 6 млрд на оснащение дата-центров.

По данным столичной полиции, ИИ-наблюдение позволило предотвратить 27 убийств, 77 случаев причинения тяжкого вреда здоровью, 165 разбоев, более 300 грабежей. В дальнейших планах мэрии – установить идентификацию по лицу на станциях железной дороги. Пассажиры с действующими проездными смогут проходить на платформу без билета: система «считает» лицо и определит, что проезд оплачен.

Распознаванием лиц занимаются и отечественные IT-стартапы. Самым успешным из них считается NtechLab, регулярно побеждающий на международных конкурсах алгоритмов идентификации. В 2015 году компания представила популярный сервис FindFace, позволяющий по фотографии найти профиль человека в социальной сети «ВКонтакте» (теперь им тоже пользуются для розыска преступников). В марте 2018 го долю в NtechLab выкупила госкорпорация «Ростех», вынашивающая планы развивать в России «умные города» на базе искусственного интеллекта.

По словам собеседников «Профиля», в нашей стране нет сдерживающих спецслужбы факторов, равных по силе демократическим институтам Запада. Но при этом нет и слаженности административной системы и ресурсов Китая. А значит, пока специальный закон о распознавании не нужен: эту сферу регулирует 152 ФЗ «О персональных данных», необходимо лишь следить за его исполнением.

«В алгоритмах распознавания у России недостатка нет, но вот с базами данных вышла заминка, – объясняет руководитель проекта IDX Светлана Белова. – В 2018 году у нас запустили Единую биометрическую систему, но пока она толком не заработала – россияне не спешат сдавать свою биометрию. А если данные не будут легко добываемы, нет и «пищи» для нейросетей». По словам экспертов, остается вариант объединить частные базы, создаваемые в основном при банках. Но и те не горят желанием «сливать» данные своих клиентов на сторону. Пока этот конфликт интересов не преодолен, россияне могут спать спокойно: камеры видеонаблюдения не могут использоваться иначе как для полицейского розыска.

Леонид Ковачич полагает, что китайская система социального кредитования в принципе не имеет перспектив в России. «Моральная оценка поступков, сложная социальная иерархия, жизнь у всех на виду – эти вещи очень присущи Китаю, – считает эксперт. – У социального кредитования есть прямой прототип в древности – традиция коллективной поруки с системой сдержек и поощрений. Для российской культуры это, наоборот, несвойственно. Наши граждане предпочитают лишний раз не светиться».