Первая часть: Скоростные поезда и города-призраки

Вторая часть: Искусственный интеллект как основа экономики

Третья часть: Как телефон заменил кошелек

Большой китайский брат

«Наш девиз – счастье и стабильность. Общество, целиком состоящее из альф, обязательно будет нестабильно и несчастливо. Человек, воспитанный как альфа, сойдет с ума, если его поставить на работу эпсилон-полукретина. Альфы могут быть добротными членами общества, но при том лишь условии, что будут выполнять работу альф. Только от эпсилона можно требовать жертв, связанных с работой эпсилона, – по той простой причине, что для него это не жертвы, а линия наименьшего сопротивления, привычная жизненная колея, по которой он движется».

О. Хаксли. «О дивный новый мир», 1932 г.

Как пишут специалисты Массачусетского технологического института, «многие считали, что интернет принесет в Китай демократию. Вместо этого он позволил правительству осуществлять слежку и контроль в масштабах, которые не снились и Мао Цзэдуну».

Им вторит московский китаист Леонид Ковачич: «За современным Китаем закрепился образ большой копировальной машины, которая способна только модифицировать и тиражировать чужие достижения. Но сейчас для китайцев настало время подарить миру собственное изобретение, сопоставимое по своему масштабу с созданными ими когда-то бумагой, порохом и компасом. Китай изобретает цифровую диктатуру».

Краеугольным камнем этой цифровой диктатуры, которую Китай начал создавать еще 10 лет назад, стала т. н. «система социального кредита». В ее основе лежали идеи скоринга – оценки надежности гражданина, исходя из показателей его платеже- и кредитоспособности. Работа в этом направлении была значительно активизирована после прихода к власти Си Цзиньпина, перед которым встали не только угрозы падения темпов роста ВВП, но и потери лояльности населения правящему режиму. Кампания по разработке и внедрению социальных рейтингов была рассчитана на 2014–2020 годы и должна была завершиться созданием централизованной базы данных, которая в режиме реального времени выставляла бы каждой компании и каждому жителю оценку его надежности. В течение пяти лет различные варианты тестировались в 45 городах с охватом более 10 млн человек, однако к сегодняшнему дню результаты эксперимента неоднозначны, и к обещанному 2020 году она вряд ли будет введена в масштабах всей страны.

Пока более успешно развивается частная рейтинговая система Sesame Credit, разрабатываемая компанией Alibaba для оценки миллиарда своих клиентов. Возможно, в будущем наработки Alibaba будут использованы в государственной системе социального кредита. Принципы, по которым работает Sesame Credit, привели бы в восторг Генри Форда. Вот что говорит руководитель программы Ли Инъюнь: «Мы исходим из того, что те, кто по 10 часов в день играет в компьютерные игры, неблагонадежны. А те, кто регулярно покупает подгузники, вероятно, ответственные родители, и их рейтинг должен расти». Рейтинг будет влиять на получение скидок и прочие бонусы, которые может предоставить торговая корпорация, например, брать велосипед в аренду без залога.

У государства набор бонусов и штрафов серьезнее, хотя будет ли он в полной мере использован, пока непонятно. Леонид Ковачич объясняет: «Дело не в баллах. Система социального кредита – это механизм социального управления, формирования таких поведенческих паттернов среди населения, чтобы ни у кого даже мысли не возникало отклониться от юридических, этических или социальных норм, установленных в обществе и одобряемых властью. А рейтинги или запреты на проезд в комфортабельных поездах, учебу в престижных школах и так далее – это лишь инструменты мотивации».

Тем не менее в той или иной форме идея разделить все население на несколько категорий в соответствии с поведением станет явью. Обладатели высокого рейтинга будут пользоваться различными льготами. А тем, у кого рейтинг плохой, придется страдать. Как сказано в соответствующем документе Госсовета КНР, «наша цель – чтобы утратившие доверие не могли сделать ни шагу». Вопрос: как к этому относиться? Удивительно, но в Китае, где еще живы поколения, испытавшие на себе прелести социальных экспериментов времен Мао, превалируют положительные оценки. Обыватели, как правило, считают, что им, как добропорядочным гражданам, система социального кредита еще больше упростит жизнь, и без того заигравшую новыми красками благодаря интернет-приложениям и мобильным платежам.

Большой Брат

Выражение «Большой Брат следит за тобой» слышали даже те, кто не знаком с творчеством писателя Джорджа Оруэлла. Большой Брат (или Старший Брат – Big Brother) – диктатор государства Океания, описанного в романе-антиутопии «1984». Его главные герои живут в обществе, все члены которого находятся под постоянным надзором. Сегодня словосочетание «Большой Брат» используется как метафора, когда речь идет о государстве или спецслужбах, старающихся установить беспрерывную слежку за гражданами. По мере появления все новых технических средств, позволяющих реализовывать такие проекты, образ мрачного будущего, выведенного в романе Оруэлла, становится все более реальным.

Звучит убедительно. Раньше за мотивацию к «правильному поведению» в обществе отвечали пропаганда и государственные СМИ. Но что делать в мире, где люди отказываются от телевизора и не верят газетам? Китайское государство первым в мире предложило ответ на этот вопрос, решив привязать всю жизнь своего населения к понятной современному человеку системе зарабатывания «бонусных баллов». Впрочем, как писала антрополог Маргарет Мид, «мечты одного – кошмары другого». В инновационной политике Пекина так много от Оруэлла и Хаксли, что не заметить это невозможно. Тем более критерии оценки пока не выработаны, а политика властей к недовольным и инакомыслящим по-прежнему имеет репрессивный характер.

В течение прошлого года вышло несколько официальных документов, призывающих администрации сайтов бороться с пользователями, распространяющими недостоверную или порочащую компартию информацию. В результате крупнейшие в КНР соцсети (WeChat, Weibo – сервис микроблогов и Toutiao – новостной агрегатор) вслед за Alibaba ускорили разработку собственных рейтинговых систем и механизмов выявления неблагонадежных пользователей. В этой работе им помогают «фабрики цензуры» – небольшие компании, сотрудники которых целыми днями просматривают интернет-страницы, маркируя кодовые слова, фразы, гифки и мемы, намекающие на китайских лидеров, компартию и всевозможный негатив, с ними связанный.

Прошли старые добрые времена, когда упоминание XVIII съезда партии («шибада») можно было скрыть за словом «Спарта» («сыбада» по-китайски), а картинка с изображением Винни-Пуха была безобидным намеком на председателя Си Цзиньпина. Эти приемы давно уже вычислены, и лица, по-прежнему использующие позапрошлогодние мемы, находятся «на карандаше» у администраций сайтов. При этом пока вычисление крамолы производится в ручном режиме. Изворотливый человеческий ум все еще способен обмануть алгоритмы, и высокая степень омонимичности китайского языка с большим количеством отсылок к многотысячелетней истории Китая ему в этом сильно помогает. Например, без помощи человека программа не в состоянии сама понять, что фотография пустого кресла может быть трактована как дерзкий политический жест. А специалисту понятно, что это намек на нобелевского лауреата правозащитника Лю Сяобо, которому не позволили покинуть тюрьму и присутствовать на церемонии награждения.

Сотрудники «фабрик цензуры», которые каждый день проходят тренинги по новым интернет-мемам, такие фокусы вычисляют и добавляют их в стоп-листы, которые затем поступают на рынок. Результатом работы одной из цензорских систем, Rainbow Shield, является список из 100 тысяч базовых «нежелательных слов» и более трех миллионов производных от них. Само по себе их употребление может ничего не означать, но, если в тексте или личном сообщении таких слов много, это повод обратить на пользователя пристальное внимание.

Чем провинился Винни-Пух?

Медвежонок Пух оказался под запретом в китайской блогосфере, после того как с этим героем начали сравнивать председателя КНР Си Цзиньпина. Пользователи соцсетей подметили, что на одной фотографии товарищ Си и тогдашний президент США Барак Обама очень похожи на Пуха и Тигру из диснеевского мультфильма. А на другом фото Си и японский премьер Синдзо Абэ напоминают Винни и Иа-Иа из того же мультика. В условиях усиливающихся в Китае авторитарных тенденций и того, что некоторые эксперты уже называют культом личности председателя Си, такие аналогии цензорам показались совершенно неуместными.

Вообще же, говоря о системе цифровой диктатуры, которую выстраивает КНР, следует упомянуть два момента.

Во‑первых, социальный рейтинг и интернет-цензура – это лишь некоторые, причем довольно безобидные ее элементы. Боевые тактико-технические характеристики системы тестируются в районах со сложной оперативной обстановкой – прежде всего в Тибете и Синьцзян-Уйгурском автономном районе (СУАР). Развитые системы искусственного интеллекта, умеющие распознавать по видео не только лица, но и походку людей, здесь используются не только для того, чтобы фиксировать мелкие правонарушения (типа перехода улицы в неположенном месте), но и с целью контролировать буквально все передвижения и действия конкретного человека.

В СУАР на каждые 10 тысяч жителей приходится столько же камер наблюдения, сколько в других частях страны смотрят за несколькими миллионами человек. Сканеры, которые распознают лица и идентифицируют личность посетителей, установлены перед входом в торговые центры, автозаправки и другие общественные места. В полицейской базе данных хранится информация на каждого жителя региона, включая «отпечаток» радужной оболочки глаза, что – в духе боевика Стивена Спилберга «Особое мнение» – препятствует тем, кто хочет уйти из-под контроля властей, просто подделав удостоверение или изменив внешность. У Спилберга герой Тома Круза решает вопрос, сделав у подпольного хирурга операцию по смене глаз. Однако китайские власти играют на опережение. Так, в Синьцзяне ими инициирована масштабная кампания по сбору у местного населения ДНК-материалов. Это позволит вычислить преступника (или человека, которого государство посчитает преступником) даже при минимальных уликах.

Система умного видеонаблюдения действует по всей стране, но в СУАР она работает с репрессивным уклоном. Если человек, проходящий по базе как «подозрительный» (об основаниях зачисления его в этот список пофантазируйте сами), отклоняется от своего привычного маршрута «дом–работа–дом» более чем на 300 метров, система подает сигнал полицейскому участку. Сотрудники полиции ходят по улицам со специальными гаджетами – анализаторами мобильного контента. Они могут остановить любого человека на улице и попросить его мобильный телефон. Гаджет определяет наличие запрещенного, политически чувствительного контента. Если таковой имеется (например, приложение, позволяющее следить за расписанием молитв в месяц Рамадан), попадание в полицейские базы данных в качестве «подозрительного» гарантировано.

Второй важный момент – китайские наработки вполне могут поставляться на экспорт. Прецеденты уже есть. Так, в 2016 году комплексная система безопасности, состоящая из оборудования видеослежения и отслеживания сотовой связи, была поставлена в Эквадор. Успехи в борьбе с уличной преступностью (за пару лет Эквадор поднялся на 4‑е место в рейтинге самых безопасных стран Латинской Америки) – лучшая реклама китайской системе. Уже в 2017 году аналогичную систему приобрела Боливия, причем потратила на это 105‑миллионный кредит, полученный ею у КНР. В числе покупателей китайского оборудования Венесуэла, Замбия и даже правительство Москвы. В российской столице на всех подъездах устанавливают систему распознавания лиц двух китайских марок: Hikvision и Dahua. Безусловно, новейшее оборудование поможет в борьбе с преступностью. Однако в случае необходимости его можно будет использовать и для других целей. Тем более что китайские разработчики уже сейчас готовы предложить миру не только умные видеокамеры, но и гораздо более продвинутые средства для контроля над населением.

Поэтому, наблюдая за Китаем, мы должны констатировать, что наблюдаем не за альтернативной Вселенной, где «все не как у людей». Мы наблюдаем за собственным будущим. Нравится оно нам или нет, но китайская модель будущего – мегалополисы и инфраструктура связанности, развитие искусственного интеллекта и технологий анализа данных, тотальное видеослежение и «фабрики цензуры», виртуальные деньги и электронная торговля – выглядит наиболее вероятным сценарием развития событий.