Дом с прозрачными стенами
Цифровизация – это очень удобно. Имея один лишь смартфон, мы можем общаться с людьми в любой точке мира, можем найти, заказать и оплатить практически любой товар или услугу. Билеты на самолет – пожалуйста, такси – нет проблем. Разумеется, у этого удобства есть и оборотная сторона.
В романе Оруэлла «1984» за героями в их квартирах и офисах непрерывно следил телекран – гибрид телевизора с камерой наблюдения и прослушкой. В замятинском «Мы» люди жили в прозрачных домах, опуская специальные шторы лишь на время «сексуального часа» и только по специальному разрешению властей. Но ни Оруэлл, ни Замятин и представить не могли, насколько прозрачной сделают нашу жизнь современные технологии.
«Любого из нас можно 24 часа в сутки отследить по номеру телефона, кредитной карте, соцсетям, – говорит научный руководитель международной магистерской программы «Науки о данных (Data Science)» в НИУ ВШЭ Саркис Григорян. – Но следить за всеми постоянно, составлять какие-то рейтинги нецелесообразно и бессмысленно, ведь 99,99% людей не представляют для государства особого интереса».
Пандемия COVID-19 подстегнула спрос на интеллектуальную слежку за гражданами
Собственно, мы уже находимся в плену всевозможных рейтингов, составляемых машинами: кредитная история, налоговая история, история правонарушений. Человек подает заявление на получение кредита, а машина, сверившись с электронными базами данных, почти мгновенно дает ответ: да или нет. И сотрудники банка не могут объяснить, почему вам отказано в кредите: система так посчитала…
Выйдем из банка на улицу. В Москве за жителями и гостями столицы следят более 220 тыс. видеокамер, из них более 104 тыс. установлены на подъездах, 6 тыс. – в местах массового скопления граждан; камерами оснащены более 23 тыс. дворовых территорий. Ни шагу без присмотра. Но такова плата за безопасность, говорят чиновники. Данные с городской системы видеонаблюдения используются при раскрытии 70% правонарушений. Только в прошлом году благодаря системе видеонаблюдения было раскрыто около 9,5 тыс. преступлений. Да, возможны ошибки. Пару лет назад имел место резонансный случай: полицейские задержали мужчину, надели на него наручники, затолкали в машину, угрожали, пытаясь добиться признательных показаний. Выяснилось, что он ни в чем не виновен, просто система распознавания лиц выдала его 70-процентное сходство с подозреваемым.
Любая подобная технология, по сути, является технологией «двойного назначения». Помните, как во время пандемии COVID камеры видеонаблюдения с системой распознавания лиц предлагалось использовать для выявления нарушителей карантина, а по номерам машин распознавали тех, кто ездил без специального разрешения? Или как совсем недавно сайт госуслуг в момент превратился в инструмент рассылки повесток?
Сейчас все области жизни максимально оцифровываются, констатирует сооснователь компании Parodist AI Владимир Свешников. Это создает огромный массив данных, который невозможно мониторить и эффективно анализировать без системы искусственного интеллекта. Разумеется, построение такой цифровой системы увеличивает возможности манипуляции гражданами, риски цензуры и слежки.
Электронный кошелек – не ваш кошелек
Деньги и свободное время – две потенциально очень опасные вещи, отмечал публицист и философ Константин Крылов. Ведь только тем, у кого есть свободное время, приходят в голову разные идеи, в том числе недозволенные. А деньги позволяют эти идеи реализовывать. Действительно, за деньги можно приобрести «все что угодно», включая то, что рядовому гражданину иметь не положено. Простейший пример: подросток сует взрослому купюру: «Дядь, купи сигаретки».
Преступление и предсказание: можно ли победить криминал с помощью искусственного интеллекта
Электронные деньги – это не только средство контроля наших финансов, но и возможность при необходимости управлять нашими расходами. Речь о переводе денежного обращения из свободного в связанное, когда человек получает право расходовать средства со своего счета на покупку только определенных товаров и услуг. «Это как связанный кредит или социальная выплата с условием, что ты можешь потратить деньги только на это и это», – уточняет старший научный сотрудник Центра международной безопасности ИМЭМО Константин Богданов. Например, материнский капитал: вы получаете более 600 тыс. руб., но тратите их на образование ребенка либо улучшение жилищных условий.
Технически банковскую карту можно настроить так, чтобы с нее не переводились деньги на другие карты, а платить получалось только в определенных местах. И все мы знаем, что средства могут быть списаны без согласия держателя или заблокированы.
Несколько лет назад я попал в неприятную ситуацию: у меня нашелся двойник – полный тезка с совпадающей датой рождения.
Он брал кредиты и не возвращал, находился в розыске за мошенничество. В один непрекрасный день с моей карты стали списываться приличные суммы – как потом выяснилось, в счет погашения его долгов. Я отправился в банк с документами, ошибка обнаружилась, но… сотрудники развели руками: всё происходит автоматически, система учитывает только имя, фамилию и дату рождения, а паспортные данные и другие параметры – нет, и «ничего сделать нельзя».
Когда помощник станет надзирателем
У американского фантаста Рэя Брэдбери есть рассказ «Будет ласковый дождь», где умный дом подсказывает жильцам их распорядок и буквально руководит каждым шагом. Часы поют: «Семь утра – вставать пора», «Девять минут восьмого – к завтраку все готово». Умная печь тем временем выдает на стол тосты, бекон и яичницу. Дом отправляет взрослых на работу, а детей – в школу, напоминает про годовщину свадьбы, сроки уплаты коммунальных платежей и страховки. Он знает всё о каждом, а главное – знает, что, кому и когда надо делать.
Умных домов на всех, конечно, не хватит. Но есть выход проще: виртуальный помощник или виртуальный друг. Помните, в середине 2010-х появилась бесплатная мобильная игра Pokemon Go – там участнику предлагалось сначала поймать, а затем тренировать виртуальных существ – покемонов? Найти покемона можно было, наводя экран смартфона на реальные объекты и пространства. Тогда часть политологов и чиновников всерьез опасались, что при помощи этой игры можно будет собирать молодежь на несанкционированные мероприятия: раз, и куча покемонов локализовалась где-нибудь на Манежной площади.
Некоторые эксперты полагают, что подобный покемон или иное виртуальное существо (котик, единорог, розовый пони) мог бы стать тем самым виртуальным другом для управления человеком. Например, «живущая» в очках виртуальной реальности Фея холодильника – такой вариант предлагал Константин Крылов – проанализирует текущие параметры худеющей девушки и составит ее дневное меню. При нарушении Фея устроит хозяйке скандал или заблокирует замок холодильника, построит дневные маршруты так, чтобы они проходили вдалеке от кафе и ресторанов. А захочет хозяйка купить непозволенное лакомство, ее электронный кошелек (он тоже под контролем Феи) не даст провести транзакцию.
Выглядит как милая шутка. А теперь представим, что некий «злобный фей», интегрированный с системой социального рейтинга и нашим электронным кошельком, мониторит наши записи в соцсетях, отслеживает контакты, дневные перемещения, покупки, оценивает их – и карает рублем, если решит, что мы ведем себя плохо. И да, подселять «злобного фея» будут, не спросив, хотим мы этого или нет.
