«Таких встреч давно не было. Возможно, вообще никогда. Мы соберем вместе лидеров бизнеса и гражданского общества, военных и ученых, технических работников и деятелей культуры, чтобы наконец обсудить, что Конгресс может предпринять в отношении ИИ». С этих слов, произнесенных лидером сенатского большинства демократом Чаком Шумером, 13 сентября в американском парламенте начался закрытый двухпартийный форум по искусственному интеллекту.

Что стоит за сообщениями о созданном Google разумном ИИ?

Даже если не впадать в модный апокалиптический алармизм, проблем в сфере ИИ действительно много. В Соединенных Штатах они усугубляются гремучей смесью жадности и мессианства. В Америке всё меньше остается места авторитетному лидерству и всё больше приходится прибегать к авторитарному сдерживанию. Страна пока опережает конкурентов в сфере технологий. Но ее быстро нагоняет Китай, который к тому же успешнее управляет и самим технологическим развитием, и связанными с ним техническими, социальными и экономическими рисками. А в вопросах регулирования США отстают даже от Евросоюза, где уже в этом году собираются законодательно запретить биометрическую слежку и алгоритмическое правоприменение и ввести обязательную маркировку всего генеративного контента.

В поисках ответа на вопрос «Что делать?» американские законодатели планируют провести девять заседаний. Первую скрипку будет играть большой бизнес, обеспечивающий до 90% вложений в развитие ИИ (львиная доля остального приходится на военных). Агентство Bloomberg не преминуло отметить, что совокупное личное состояние собравшихся на первое заседание превышает полтриллиона долларов. И хайтек-бомонд уже давно сделал свой выбор. Марк Цукерберг прямо призвал Конгресс обеспечить преимущество американским компаниям. По его мнению, наряду с безопасностью ИИ важнейшей проблемой является его доступность. А потому нужно повсеместно продвигать американские технические стандарты и решения, не чураясь протекционизма.

Оппонируют ему не коллеги – они и сами не прочь использовать мощь государства в глобальной конкурентной борьбе. Немало сенаторов считают, что федеральное правительство не должно вмешиваться в регулирование ИИ. В США многое отдано на уровень штатов – им и решать. В свое время такой механизм распределения полномочий сыграл важную роль в развитии экономики страны. Но теперь другие времена. И вот уже республиканец Тед Круз говорит, что технический прогресс таит слишком много опасностей для национальной экономики. И предлагает свой рецепт: несмотря на огромный потенциал технологий искусственного интеллекта, сейчас их стоит немного притормозить.

Почему у метавселенной Цукерберга мало шансов прийти к успеху

Так что дискуссии будут жаркими. И не только в Америке. Но, говоря о регулировании, мы обычно тут же представляем, что речь идет о каких-то драконовских законах, работающих по хорошо известному принципу постового Мымрецова из рассказа «Будка», чьи обязанности «состояли в том, чтобы, во-первых, «тащить» и, во-вторых, «не пущать»; тащил он обыкновенно туда, куда решительно не желали попасть, а не пускал туда, куда этого смертельно желали». На самом деле есть три вида регулирования – своего рода три кита, на которых держится технологическое развитие: технический, этический и правовой.

Техническое регулирование иногда называют «нормативным» и считают разновидностью правового. Но объект у них принципиально разный. Техническое регулирование воздействует не напрямую на человека и общество, а на результаты и процессы их деятельности и может быть дополнительно обеспечено правовой санкцией. В его основе лежат требования (регламенты), устанавливаемые на определенную продукцию, а также на ее проектирование, изготовление, распространение и так далее, – это методологический подход, утверждающий, что, если всё делать правильно, мы получим правильный результат.

В некоторых случаях требования обязательны. Но бизнес может выполнять их и добровольно. Это дает ему право декларировать соответствие (например, путем маркировки продукции), а потребителям уверенность, что предлагаемые продукты и услуги отвечают определенным стандартам. Так, у нас сейчас продвигают российский «Знак качества», в том числе через программу лояльности для граждан.

Техническим регулированием занимается не только государство, но и крупный бизнес (например, компания McDonalds придумала франчайзинг), различные отраслевые объединения и союзы – всё дело в доверии. При наличии доверия, в том числе к государству, техническое регулирование – относительно простой, оперативный и весьма эффективный инструмент. Та же маркировка контента, созданного генеративным ИИ, по сути, мало чем отличается от указания на упаковке жирности и срока годности молока. Неслучайно во многих странах пока прибегают именно к техническому регулированию информационных технологий.

Машинное воспитание: что общего у Макиавелли и искусственного интеллекта

Этическое регулирование часто называют «сорегулированием» или «саморегулированием», подчеркивая, что общество и бизнес совместно вырабатывают определенные правила поведения, и потом все добросовестно им следуют. Сейчас чуть ли не у каждой компании, работающей в сфере высоких технологий, есть свой Кодекс этики. При этом часто в одну кучу сваливают этичное поведение участников профессионального сообщества и «этичность» поведения самой интеллектуальной системы. Первое – это набор рекомендаций профессиональной этики: что делать хорошо, а что плохо. Второе – по сути те же требования. Но, в отличие от четко формулируемых и проверяемых технических регламентов, их предмет – идеологизированные «человеческие ценности»: безопасность и прайвеси, отсутствие алгоритмической дискриминации и далее в том же духе. ИИ также должен быть подконтрольным и прозрачным, а результаты его работы – объяснимыми (с этим имеются не только серьезные технические трудности, но и принципиально непреодолимые препятствия, связанные с нашими когнитивными возможностями).

Хотя на этическое регулирование возлагают большие надежды, перспективы его весьма туманны. Теоретически дело хорошее. Современная цивилизация погрязла в крючкотворстве, когда на каждый чих нужно писать закон или создавать судебный прецедент. Допустимым становится не то, что морально, а то, за что не пришьют статью. Вообще-то у IT-сообщества есть неплохой опыт этического регулирования. Немало копий в свое время было сломано по поводу свободного программного обеспечения. Кого-то не устраивало, что его разработки использует режим южноафриканского апартеида, другим не нравились северокорейские Кимы, третьим – иранские аятоллы. Сложнее было с «предметными» коллизиями: аборты, слежка за пользователями, использование алгоритмов в военных целях. До сих пор сообщество разработчиков справлялось с вызовами, но сейчас ситуация, похоже, начинает меняться. Однако большая опасность идет даже не снизу, а сверху: в Америке уже открыто говорят о том, что «неправильным» странам нужно ограничить доступ к свободному ПО.

Конец золотого века: как сейчас живут китайские интернет-корпорации

Хотя публичное пространство забито западным морализаторством, пожалуй, наибольших успехов в разработке этических принципов регулирования технологий добилась КНР. Китайская культура всегда строила картину мира на основе универсальных этических законов, которые следует практически проецировать на регламентацию общественных отношений. Запад же, напротив, шел по пути объективизации этики, ее приспособления к потребностям социально-экономического развития и последующей институционализации.

Сейчас на Западе происходит стремительная инструментализация этики, ее превращение в набор удобных чек-листов. Это отличное решение для разработчиков и для бизнеса – достаточно прогнать программу через набор тестов, и готово. Уже появились фреймворки для такого тестирования. Пока на уровне добровольного технического регулирования. Бал здесь правят крупные компании, у которых большой опыт и возможности по созданию и обеспечению отраслевых стандартов. А общественность и академические круги играют при них роль свадебных генералов. Следующим шагом станет нормативизация таких отраслевых стандартов на государственном и надгосударственном уровнях (здесь без государства уже не обойтись). И этическое регулирование технологий окончательно превратится в правовое регулирование этики.

Правовое регулирование уже целенаправленно воздействует на общественные отношения в различных сферах: производстве и распределении благ, общественном управлении, обеспечении правопорядка. Принципиально здесь – кем, с какими целями и в чьих интересах оно осуществляется. Сейчас все пытаются строить сбалансированные системы, использующие возможности и учитывающие интересы и государства, и общества. На основе соответствующих принципов и устанавливаются закрепленные в нормативно-правовых актах правила, образующие правовой режим. А методы (система юридических приемов и способов) могут быть весьма разнообразны.

Глубокие заблуждения: в КНР начали законодательно бороться с дипфейками

К основным способам относятся дозволения, дающие субъекту право выбора (например, вероисповедания). Именно дозволениями являются наши субъективные права, свободы и интересы, но уровень их юридической защищенности может быть различным. В отличие от дозволений, императивные (иначе директивные) предписания влекут ответственность субъекта, если он отступает от требований юридической нормы. Негативные обязывания (запреты) предписывают не совершать те или иные действия, а позитивные обязывания, наоборот, говорят, что делать должно. Например, запрещено посягать на жизнь и здоровье человека, а беречь природу – это обязанность. Существуют также факультативные способы: рекомендации (например, скоростной режим, устанавливаемый дорожным знаком) и поощрения, обычно в виде стимулирующих мер и различных льгот – именно они составляют нормативно-правовое ядро социального рейтинга в Китае.

Правовое регулирование искусственного интеллекта – своего рода оксюморон, если только мы однозначно не признаем субъектность ИИ. Пока это больше академический вопрос, но в некоторых странах законодатели склоняются к тому, чтобы наряду с физическими и юридическими лицами признать некие квазисубъектные «электронные лица» со своими правами и обязанностями. Например, в большинстве стран автором произведений науки, литературы или искусства по определению может быть только человек. Соответственно, генеративный контент не может быть предметом авторского права и является общественным достоянием. А вот в Южной Корее с этим не согласны и намерены защищать авторские права на свой генеративный контент по всему миру.

Большую проблему представляет то, что очень трудно дать юридическое определение самому ИИ. Существует множество определений, но ситуация напоминает сюжет притчи о слепцах, трогавших разные части слона (хобот, ногу, бивень) и в итоге получавших неполное и отличное от других представление о том, как выглядит это животное. Технические специалисты вообще предпочитают не использовать термин «искусственный интеллект», а говорить о машинном обучении, нейронных сетях, генеративных моделях и так далее. Во всяком случае, это позволяет решать пока некоторые вопросы технического регулирования.

В будущем нужно идти дальше. Нам уже никуда не деться ни от искусственного интеллекта (что бы под ним ни понималось), ни от того, что его нужно как-то регулировать. Известный изобретатель и предприниматель Чарльз Кеттеринг (это он придумал электрический стартер и этилированный бензин) как-то сказал: «Я интересуюсь будущим потому, что собираюсь провести там всю оставшуюся жизнь». И это касается всех.