Казенный ИИ: почему OpenAI решила начать сотрудничать с Пентагоном

«OpenAI – не обычная компания и никогда таковой не будет». Этими словами глава OpenAI Сэм Альтман начал свое обращение к сотрудникам, которое было опубликовано 5 мая в связи с грядущей реорганизацией.

OpenAI, Inc. зарегистрирована в 2015 году в Калифорнии как некоммерческая исследовательская организация. До конца 2022-го, когда появился ChatGPT, она почти ничего не зарабатывала. В нынешнем году планируют выручить $13 млрд, но из-за высоких расходов $9 млрд придется списать в убытки. А за пятилетку 2023–2028 гг. ожидаемые потери составят от $40 до $50 млрд.

Для привлечения денег в 2019-м создали OpenAI LP – инвестиционное партнерство с ограниченной прибылью, где на вложенный доллар можно получить не более 100. Остальное должно идти на реализацию заявленной миссии компании: «ИИ на благо всего человечества». И в случае OpenAI это не просто декларация, но юридически значимая формулировка. Коммерческую же деятельность ведут зарегистрированные в штате Делавэр (одной из самых популярных американских юрисдикций) OpenAI, LLC, и OpenAI OpCo, LLC.

Поскольку OpenAI, Inc. выступает генеральным партнером всех этих юрлиц, ее бизнес оценивается сейчас в $80–90 млрд, что делает ее третьей по стоимости частной компанией в мире. Впереди только ByteDance, владеющая TikTok (около $250 млрд), и SpaceX Илона Маска (пока $200 млрд). В спину дышат американская финтех-платформа Stripe и китайский гигант быстрой моды Shein, оцениваемые примерно в $70 млрд каждая.

Особенность OpenAI – ее бизнес очень «хрупкий». Например, для большинства пользователей отказаться от Microsoft – это как переехать в другую квартиру, где надо сделать капитальный ремонт и расставить всю мебель. Для корпоративных клиентов такая «релокация» – это вообще кошмар. А поменять ChatGPT на другого бота не сложнее, чем переставить тумбочку в прихожей. Многие уже используют разных ИИ-ассистентов для разных задач, а те, в свою очередь, быстро становятся все более универсальными.

Я только спросить: можно ли доверять ответам ChatGPT и прочих нейросетей

Не OpenAI придумала большие языковые модели, хотя и внесла серьезный вклад в их развитие и на какое-то время обеспечила себе технологический отрыв. Залогом ее успеха стали не технологии, а удобная механика общения с пользователями, что привело к буму ИИ. Но для самой компании путь этот оказался тернист.

В ноябре 2023-го дошло до того, что совет директоров уволил Альтмана. Официально – в связи с «утратой доверия», непрозрачностью процессов разработки и недооценкой рисков поспешного внедрения ИИ. На деле же часть инвесторов и команды были сильно недовольны его очковтирательством и самоуправством. Однако на сторону Альтмана встали сотрудники, и уже через неделю он вернулся в свое кресло. Кого-то сразу выгнали, другие ушли сами. В том числе сооснователь и главный научный сотрудник компании Илья Суцкевер, который в течение десяти лет был ее «мозгом» и последовательно отстаивал строгие этические принципы. Теперь модный режиссер Лука Гуаданьино собирается снять про это кино, где роль Суцкевера прочат Юре Борисову.

Эта история вскрыла целый клубок противоречий: между компанией и инвесторами, между руководством и работниками, между разработкой и коммерцией и, самое главное, глубокий раскол между бизнесом и этикой. Впрочем, как сетовал Альтман: «Согласование ИИ с человеческими ценностями оказалось одной из самых сложных задач для компании». Но теперь это была уже другая компания.

В декабре 2024-го OpenAI объявила о стратегическом партнерстве с Anduril Industries. Это детище Палмера Лаки (включен в санкционные списки РФ), который в свое время придумал шлем виртуальной реальности Oculus Rift. Когда его стартап купил Цукерберг, Лаки перешел в Facebook,* но оттуда его выжили за протрамповские взгляды. В 2017 году он основал Anduril (так назывался меч Арагорна из «Властелина колец») и с тех пор успешно занимается роботизированными системами для военных и силовиков, поднявшись, по версии агентства Bloomberg, на первую строчку рейтинга «10 самых перспективных стартапов в сфере оборонных технологий». Теперь вместе с Альтманом они будут внедрять передовой ИИ в дроны и системы наблюдения поля боя.

Для OpenAI вовлечение в сферу военных технологий – полный разворот от ценностей, декларировавшихся на протяжении десяти лет. Для этого потребовалось внести изменения в политику компании, а сама она из исследовательской превратилась в «научно-практическую» (оригинальная, но не случайная формулировка).

А ведь совсем недавно сотрудничество с Пентагоном было для IT-компаний если и не табу, то уж точно чем-то заслуживающим решительного порицания. В 2018 году, когда Google собиралась подписать 10-миллиардный контракт с военными, СМИ писали о «кризисе совести» у компании. Сотрудники роптали, дело попахивало бунтом, и Google отказалась от выгодной сделки.

Сотрудники IT-гигантов не хотят сотрудничать с Пентагоном из-за вопросов этики

Впрочем, уже через год, когда работники Microsoft протестовали против адаптации очков HoloLens для нужд военных, гендиректор компании Сатья Наделла решительно заявил: «Мы не собираемся лишать технологий тех, кого мы сами избрали на демократических выборах для защиты наших свобод». Теперь ему вторит Сэм Альтман: «Политика компании не позволяет использовать наши инструменты для причинения вреда людям… но есть задачи национальной безопасности, которые совпадают с нашей миссией». Тут уже можно порассуждать и про разработку оружия: «Никогда не говори «никогда». Мир катится черт знает куда, и иногда приходится выбирать из нескольких зол… Но не думаю, что мы займемся этим в обозримом будущем».

Меж тем 23 февраля Трамп подписал указ №14179 «Об устранении препятствий американскому лидерству в области искусственного интеллекта». И уже 13 марта OpenAI представила в администрацию президента свой «План действий», который позволит «поддержать и усилить глобальное доминирование Америки». Кроме того, претворение плана в жизнь нужно, чтобы «демократичный американский ИИ оставался лучше, чем автократичный и авторитарный ИИ, который делает Компартия Китая». И затягивать со всем этим нельзя, поскольку, как предупредил в мае на слушаниях в сенате Альтман, «Трудно сказать, насколько мы опережаем [китайцев] по времени. Я бы сказал, ненамного».

Рецепты, в общем, банальны: инновации и рыночная конкуренция, техническая стандартизация, безопасность ИИ и юридическая ответственность разработчиков. А также: «не допускать, чтобы правительства использовали ИИ для концентрации власти, контроля над своими гражданами, угроз и принуждения в отношении других государств». И дальше прямые нападки на DeepSeek, изрядно попортивший кровь американскому хайтеку. Мало того, что его «финансирует и контролирует КПК» и он «может использоваться для причинения вреда». Так он еще и бесплатный, за что «пользователи расплачиваются своей конфиденциальностью и безопасностью».

Вообще-то «демократичный» ИИ точно так же может использоваться для этих и многих других целей. Их благовидность или неблаговидность – отдельный вопрос, а между «есть», «может» и «дóлжно» – огромная дистанция. Но предлагается простой рецепт. Надо все страны разбить на три категории. С первой всё просто: в нее войдут «государства, разделяющие принципы демократического ИИ и использующие его для расширения свобод своих граждан». Во вторую – «только страны, когда-либо допускавшие нарушения в сфере экспортного контроля за микросхемами и иной американской интеллектуальной собственностью таким образом, что они попадали в страны третьей категории или использовались ими». Страны из второй категории нужно поощрять, чтобы «со временем они перешли в первую, а до тех пор применять к ним более строгие требования». И, наконец, третья: «Возглавляемый Компартией Китай с небольшой когортой стран-приспешниц». Этих нужно полностью отлучить от доступа к демократическому ИИ. Поскольку про их перевоспитание и поощрение ничего не говорится, закрадывается мысль, что Китай и «страны-приспешницы» просто, если так можно выразиться, исключили из человечества. Впрочем, возможно, что нам еще расскажут, мол, отлучение – это для них благо. Пока же утверждается, что такая «стратегия приведет к повсеместному внедрению демократичных американских решений и обеспечит превосходство США».

Важная роль отводится регулированию. Однако не всё так просто. Пару лет назад, когда казалось, что OpenAI стала «царем горы», Альтман убеждал сенат в том, что нужен специальный правительственный орган, который будет лицензировать ИИ. Теперь, наоборот, жалуются, что регулирование душит бизнес, и клянут предыдущую администрацию. Большинство республиканцев согласны. Тед Круз, возглавляющий сенатский комитет по торговле, науке и транспорту, считает: «Чтобы лидировать в ИИ, Америка не может позволить регулированию, пусть даже с благими намерениями, мешать инновациям и внедрению».

А запрос на регулирование ИИ со стороны общества только растет. Согласно недавнему исследованию консалтинговой группы KPMG, охватывающему около 50 тысяч человек в 47 странах, в США лишь 35% респондентов думают, что выгоды от использования ИИ превышают риски, а 72% считают, что ИИ надо регулировать. Это характерно для всех развитых экономик – развивающиеся страны более оптимистичны и беззаботны. При этом ¾ опрошенных полагают, что регулированием должны заниматься международные организации, и поддерживают сотрудничество. Близкие цифры дают и опросы Pew research, показывающие, что во всем, что касается ИИ, отраслевые эксперты настроены раза в 3–4 позитивнее, чем общественность.

А специалисты из OpenAI настаивают, что Америке нужно отпустить вожжи, а свою государственную машину, наоборот, задействовать для экспортного контроля, продвижения и защиты национальных решений в сфере ИИ на «общем целевом и обслуживаемых рынках». Такое впечатление, что просто вставили кусок из презентации для инвесторов. И добавили слайд: «В глобальных фондах скопилось около $175 млрд, которые хотят вложить в проекты ИИ. Если Америка не привлечет эти деньги, они уйдут китайцам, что усилит глобальное влияние КПК».

Дальше интересно. OpenAI имеет репутацию очень «непрозрачной» компании. Большинство разработчиков, в том числе DeepSeek, выкладывают свои модели, а также их параметры и артефакты обучения (что представляет особый интерес) в открытый доступ под свободными (как правило, неограничительными) лицензиями. Так что любой желающий может не только изучать код, но использовать и модифицировать его. А ChatGPT закрыт. Лишь задним числом компания выборочно приоткрывает устаревшие модели. Правда, в мае Альтман сообщил, что они планируют выпустить также и открытую модель. Но в «Плане действий» черным по белому написано: «Мы полагаем, что вопрос, открывать или не открывать код, – это ложный выбор». И без обиняков: доступ должен быть только у «правильных» разработчиков. Однако в сегодняшней системе открытого кода это невозможно, и лазеек почти нет. Нужно менять всю систему, но тогда придется переписывать почти весь «демократический» софт. Или действовать по принципу: против лома нет приема. Но попытки взломать систему обернутся, скорее, против самой «демократической» интеллектуальной собственности, причем не только в сфере информационных технологий. И очень большой вопрос, кто в итоге от этого выиграет.

В Америке всерьез задумались о регулировании искусственного интеллекта

Самое интересное, пожалуй, даже не это, а одно не сильно выпячиваемое слово. Содержательная часть «Плана действий» начинается с раздела, который называется «Масштабирование человеческой изобретательности» (ingenuity). Раньше речь всегда шла о креативности. Казалось бы, невелика разница. На самом деле велика.

Креативность – это творчество. Креативный человек – творец. А латинское ingenium – изобретательность в смысле врожденной способности или одаренности. Отсюда engine – «продукт ума», какое-то полезное орудие или машина, а инженер – изобретатель, который ее придумывает. Этот сдвиг задает важную идеологическую рамку: человек – не свободный творец, а просто решатель утилитарных задач. И согласно программному заявлению OpenAI: «Сейчас, когда мы приблизились к сильному ИИ, инновации готовы масштабировать саму человеческую изобретательность».

Исключительно о сильном ИИ Альтман пишет и в своем обращении к сотрудникам по поводу реорганизации, ни разу не упомянув просто ИИ. Цель обозначена: «Мы хотим сделать Мозг (в единственном числе! – «Профиль») для всего мира, и сделать так, чтобы людям было просто использовать его, для чего они пожелают (есть лишь несколько ограничений, например, свобода одного не должна посягать на свободу других)». И это требует перемен.

Некоммерческая организация в каком-то виде сохранится. В каком именно, будут решать вместе с Microsoft и новыми уполномоченными, которые войдут в специальный комитет. Он займется согласованием «филантропических усилий» компании и целей интересантов бизнеса. Координировать его работу будет Даниэл Зингейл, известный калифорнийский правозащитник и активист в области здравоохранения, имеющий большой политический опыт.

Самое главное – бизнес компании будет юридически преобразован в так называемую «Корпорацию общественного блага» (PBC). Этим термином обозначаются коммерческие компании, которые должны не только зарабатывать деньги, но и исполнять официально заявленную миссию. Это сравнительно новый гибридный формат, принятый даже не во всех штатах (первым был Мэриленд в 2010 году); аналоги есть в Великобритании, Канаде, Израиле и Италии, а также в некоторых латиноамериканских странах. Для OpenAI это попытка перезапустить структуру, не отказываясь от благообразного имиджа. И удобный инструмент стратегического маневра, позволяющий при желании выйти на публичное размещение акций. Впрочем, вряд ли это их ближайшая цель, зато отличная «морковка» для сотрудников, инвесторов, регуляторов и широкой общественности, которым под маркой этичного капитализма станут продавать концепцию безопасного ИИ.

За фасадом красивых слов, скорее всего, будет просто бизнес. Серьезные исследования ИИ замедлятся, и еще труднее будет разобрать что-то за дымовой завесой коммерческого и политического маркетинга. А мейнстримом станет «балканизация» прикладного ИИ и его огосударствление. И не приходится сомневаться, что этот казенный инструмент будет вовсю задействован и в экономике, и в политике, и в военном деле. Как не приходится сомневаться и в том, что это кардинально изменит и нас самих, и наш мир.

* Facebook принадлежит корпорации Meta, деятельность которой запрещена в России как экстремистская