Глубокие заблуждения: в КНР начали законодательно бороться с дипфейками

Прогрессивная общественность, приходя в себя после новогодних праздников, отреагировала довольно вяло. Отчасти потому, что проект постановления был опубликован для обсуждения почти год назад и принят еще в прошлом ноябре. Так что у желающих было достаточно времени, чтобы по зову сердца и долгу службы оттоптаться на теме и вволю попричитать. Некоторые блогеры уже заламывают руки: «Прямо не знаю, что меня больше пугает – интеллектуальные боты или китайская Госканцелярия интернет-информации!»

Эта канцелярия по партийной линии отвечает за управление контентом и соблюдение законности в интернете. Вот она и подготовила постановление совместно с Министерством промышленности и информатизации и Министерством общественной безопасности. Цель постановления – повысить качество информационных услуг ради «продвижения базовых ценностей социализма». Речь про принятые в 2012 году на XVIII съезде КПК двенадцать принципов, известных каждому китайскому школьнику. Во-первых, процветающее, демократическое, культурное и гармоничное государство. Во-вторых, свободное, равноправное и справедливое общество, где живут по законам. В-третьих, патриотичные, преданные делу, честные и дружелюбные граждане.

Такие граждане не станут использовать технологии глубокого синтеза, чтобы «изготавливать, публиковать и распространять запрещенную информацию и осуществлять противозаконную деятельность, в том числе создавать угрозы национальной безопасности, порочить имидж страны, наносить ущерб государственным и общественным интересам, нарушать экономический и социальный порядок и ущемлять законные права других граждан и организаций». А будут «соблюдать законы и правила, уважать моральные нормы, руководствоваться политическим курсом и общественными ценностями и со всей ответственностью подходить к использованию технологий глубокого синтеза».

Ключевая роль отводится поставщикам информационных услуг. Они должны совершенствовать механизмы регистрации пользователей, аудита безопасности, мониторинга контента и обратной связи с его производителями и потребителями. Собственно, здесь и постановляются две новеллы. Во-первых, генеративный контент могут публиковать и распространять только те, чья личность достоверно подтверждена. Иными словами, запустить анонимный дипфейк не получится. Во-вторых, такой контент должен быть ясно и недвусмысленно маркирован. Это касается любого существенного изменения содержания или создания новой информации: генерации текстов, синтетического озвучивания, создания изображений, управления мимикой и поведением персонажей, манипулирования объектами.

Вы можете быть зрителем или участником. Интерфейс может быть одномодальным, как, например, при текстовом или голосовом общении с интеллектуальным ботом. Или мультимодальным, когда задействуются различные органы чувств и каналы обмена информацией. И тогда получаются сложные виртуальные сцены с высокой степенью погружения, которые «могут переживаться участниками или взаимодействовать с ними». Технически иммерсивность зависит и от того, какие каналы задействованы, и от того, насколько реалистична реализация. В любом случае вы должны знать, что имеете дело не с живым человеком, а с работой алгоритмов искусственного интеллекта.

Маркировка и мониторинг распространения контента – достаточно эффективное и практичное решение. Представьте, что вместо того чтобы указывать на продуктах питания срок годности, состав и производителя, мы снабдили бы каждого покупателя суперсканером, который сквозь любую упаковку быстро и точно определяет, что там внутри. Но самое главное – это наиболее разумный шаг в условиях неопределенности, не столько даже технической, сколько социально-политической.

С этим согласен и известный эксперт по синтетическим медиа и дипфейкам Генри Айдер: «Маркировка фейкового контента самими пользователями и [социальными] платформами – это, пожалуй, то, с чего нам [всем] стоит начать». А поскольку законодательство не может поспевать за техническим прогрессом, имеет смысл сразу максимально широко охватить возможные объекты регулирования.

По-видимому, в ближайшем будущем многие страны пойдут по китайскому пути. Дипфейки уже превратились в серьезную проблему и потенциально представляют страшную опасность для человечества. Так, например, считает Ли Кайфу – знаковая фигура в области искусственного интеллекта, а для Китая вообще личность легендарная.

Ли родился на Тайване, откуда его семья перебралась в Америку. Там он окончил школу, учился в университете и защитил докторскую по информатике, создав первую в мире систему непрерывного распознавания речи. Через два года Ли перешел в бизнес. Он руководил исследовательскими разработками в Apple, Silicon Graphics, Microsoft, Google.

В конце 1990-х Ли перебрался в Пекин, где возглавлял штаб-квартиры американских корпораций, а в 2009 году запустил собственный инвестиционный фонд Sinovation Ventures (до 2016-го Innovation Works) и ряд других проектов, направленных на развитие информационных технологий. Ли – один из столпов китайского IT, пользующийся огромной популярностью и большим авторитетом как в самой КНР, так и на Западе. Он автор нескольких научных монографий, множества статей и мировых бестселлеров (в 2019-м в России опубликовали «Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок») и часто выступает по широкому кругу вопросов, касающихся развития искусственного интеллекта.

В этом Ли всегда был большим оптимистом. Настолько, что в канун минувшего Рождества ему пришлось специально подчеркнуть: теперь он вынужден пересмотреть свои взгляды, и виной тому дипфейки. Ли считает, что основная угроза исходит со стороны бизнеса – IT-гигантов, которые контролируют огромные финансовые и информационные ресурсы. Ли не видит технического решения этой проблемы, считая, что мы уже обречены.

Это вряд ли можно назвать алармизмом, даже на фоне других глобальных вызовов. Ли только мимоходом говорит об опасности со стороны негосударственных акторов, таких как преступные и террористические группировки. По-видимому, еще большую опасность представляют государственные и транснациональные акторы, которые могут эффективно сочетать дипфейки с глубоким форматированием информационного пространства и широким набором социальных технологий. Фейки были всегда. В свое время Дени Дидро писал: «Можно обманывать некоторых или обманывать всех в каком-то месте и в какое-то время, но нельзя обманывать всех повсюду и всегда» (американцы этот афоризм, правда, в слегка измененном виде, приписывают Аврааму Линкольну). Сейчас мы вплотную подошли к тому, что мир с фейками превратится в фейковый мир, где невозможно отличить ложь от правды.

На Западе вообще не очень различают правду и истину. Английское truth мы переводим то так, то эдак, в зависимости от контекста. Оруэлловское The Ministry of Truth, или Minitrue на новоязе, для нас «Министерство правды». Правда – не абы какая истина, но истина, обладающая не только познавательной, сколько нравственной ценностью. Рациональный Запад изгнал правду из науки, претендующей на истину. Знание, конечно, сила, но у нас: «Не в силе Бог, но в правде». Да и с истиной всё непросто. Особенно в случае с фейками, когда мы имеем дело с истиной про истину.

Классическое понимание состоит в том, что истина – это то, что соответствует реальности и не зависит от точки зрения и намерений человека. Это кажется разумным и даже достаточным, но, как удачно кто-то пошутил: «Реальность – это часть нашего опыта, которая неподвластна нашему воображению».

Либеральные медиа пытаются шельмовать китайский подход, говоря об установлении государственной монополии на истину. В ход идет грубая уловка, которая на латыни красиво называется ad hominem, а попросту – «переход на личности». Вместо того чтобы обсуждать проблему по существу, безапелляционно утверждают: то, что делает авторитарный Китай, заведомое зло. И вешают ярлык постистины, которая у нас постправда, а для китайцев – неправда, которую пропихивают задним числом.

В 2016 году Оксфордский словарь английского языка объявил «постправду» словом года. После брекзита и избрания Трампа президентом слово «постправда» буквально взорвало интернет. И очень скоро превратилась в философскую концепцию политического дискурса, куда приплели и Ницше с его бытием становления, и Вебера с его фактами и ценностями, и реконструкции Фуко, и деконструкции Деррида. На самом деле это журналистская метафора, придуманная американским писателем сербского происхождения Стивом Тесичем, обладателем «Оскара»-1979 за лучший оригинальный сценарий, – тогда киноакадемия признала комедию «Уходя в отрыв» фильмом года, и теперь он входит в десятку самых вдохновляющих американских картин столетия.

В 1992 году Тесич опубликовал в журнале The Nation статью о «постыдной правде» Уотергейтского скандала, деле Иран – контрас и войне в Персидском заливе. Вот что он пишет: «Мы уравняли правду и плохие новости. Мы больше не хотим плохих новостей, независимо от того, правдивы они или нет и насколько важны для страны. Мы рассчитываем, что правительство защитит нас от правды... Мы, как свободные люди, свободно выбрали для себя жизнь в мире постправды». А дальше Тесич предупреждает, что Америка стремительно скатывается к тому, что «даже не снилось монстрам тоталитаризма». Тогда его не услышали.