Какие вопросы возникли из-за попытки наделить искусственный интеллект патентными правами

Главное действующее лицо в этой истории – доктор Стивен Талер, довольно известный специалист по нейронным сетям. Уже в 1994 году он подал патентную заявку на «Устройство автоматической генерации полезной информации», представлявшее собой нейросеть, способную имитировать творческую деятельность человека в определенной предметной области. Над этой концепцией, которую Талер назвал «Изобретательская машина» (позднее будет зарегистрирована торговая марка Creativity Machine® Paradigm), он работал с середины 1970‑х.

Тогда же он основал частную компанию Imagination Engines (в Миссури), а позднее – дочернюю Imagitron (в Мичигане). Ее официальная цель – «создание мириада дочерних компаний, использующих эпохальные открытия Стивена Талера в области искусственного интеллекта, которые будут создавать продукты и услуги, полностью или частично основанные на результатах творческой деятельности изобретательских машин». Мириада пока не наблюдается, а сайт компании, похоже, заброшен в 2012 году. Сайт головной компании чуть более живой, и там можно найти немало любопытных материалов, в том числе по использованию разработок конца 1990‑х для контроля медиапространства, создания сложных «подсадных» сайтов с дезинформацией, а также в авионике и системах вооружений (некоторые решения представляются довольно интересными не только для тогдашнего уровня техники).

Впрочем, корпоративный блог (очень куцый) умер в том же 2012 году, а на странице истории компании летопись (до того весьма подробная) заканчивается в октябре 2016‑го сообщением «нужно иметь возможность указывать в патентных заявках авторство компьютеров» и ссылкой на публикацию о профессоре Эбботте.

Профессор Райан Эбботт преподает в Университете Суррея (Англия) право и так называемые «науки о здоровье» – это такое междисциплинарное направление, имеющее некоторое отношение к медицине и занимающееся ментальным, социальным и физическим здоровьем людей и животных. Кроме того, профессор Эбботт – известный активист в области искусственного интеллекта. Как раз в 2016 году вышла его программная статья «Я мыслю, следовательно, изобретаю: Креативные компьютеры и будущее патентного права», где он весьма категорично утверждает, что существующая патентная система безнадежно устарела и ее нужно в корне менять.

Именно профессор Эбботт и возглавил группу специалистов по правам интеллектуальной собственности, подготовившую нынешнюю заявку доктора Талера. Заявка была подана совместно, причем сразу во всех ключевых юрисдикциях: в США, в Великобритании, в Евросоюзе, а также во Всемирную организацию интеллектуальной собственности. Как пояснил сам профессор, «в данном случае искусственный интеллект выполнил все существенные действия, которые составляют основу изобретения. Если бы это было физическое лицо, не было бы никаких сомнений в его авторстве. Таким образом, мы считаем правильным, чтобы ИИ был указан в качестве автора, а владелец ИИ являлся правопреемником или владельцем патента». В такой интерпретации сразу же обходится сложный вопрос о том, как машина могла бы быть правообладателем (а заодно лицензировать свое изобретение). По мнению Эбботта, «такой подход будет стимулировать инновации и позволит системе патентования содействовать продвижению изобретений и разработок в области творческого ИИ, а не тормозить прогресс».

Европейское патентное ведомство ограничилось сообщением, что оно осведомлено о проблеме, но продолжает твердо придерживаться мнения, что автором изобретения может быть только человек (казусы с животными в области авторских прав уже были). Другие патентные ведомства пока от комментариев воздержались.

Креативная машина доктора Талера, «от имени» которой подана заявка, называется DABUS. Это акроним, расшифровывающийся как Device for the autonomous bootstrapping of unified sentience, то есть «Устройство автонастройки унифицированных ощущений». Не стоит придираться к английским словам и тем более искать в них потаенный смысл – они подобраны так, чтобы просто получалось звучное название (и есть соображения, почему на русский переведено именно так). Впрочем, слово sentience, пожалуй, заслуживает небольшого комментария. Оно практически не используется в когнитивистике и когда речь идет о системах искусственного интеллекта. Это философское понятие, означающее способность чувствовать, восходящее еще к этическим построениям Иеремии Бентама. В современной аналитической философии (то есть англо-американской, в противопоставлении континентальной европейской), главным образом в философии сознания, sentience означает очень широкий спектр сенсорных ощущений, но теперь чаще говорят о «квалиа» – этот термин был введен в 1929 году американским философом Кларенсом Льюисом, основоположником концептуального прагматизма.

Название DABUS выбрано не случайно. Дабусы – это персонажи одного из сеттингов культовой настольной ролевой игры в жанре фэнтези Dungeons & Dragons («Подземелья и драконы»), первая версия которой вышла еще в 1974 году. Это такие разнорабочие-коммунальщики: они занимаются ремонтом, уборкой, вывозом мусора и тому подобным. При этом они не обращают внимания на людей и могут даже создавать им проблемы. Но мешать дабусам и тем более обижать их ни в коем случае нельзя – это может вызвать гнев Госпожи Боли, могущественной и таинственной хозяйки Сигила (настолько таинственной, что даже точно неизвестно, это хозяйка, или хозяин, или, возможно, шесть гигантских белок, образующих антропоморфную иллюзию). Сами дабусы тоже бесполые и не имеют возраста, но в остальном выглядят вполне как люди, разве что слегка повыше ростом, потоньше в кости, а на головах у них маленькие рожки. Кроме того, они не ходят по земле, а парят над ней.

Все изобретательские машины доктора Талера (их там несколько серий) состоят как бы из двух частей (обе – несколько специфичные нейронные сети). Одна часть, «творец» (она называется «Изобретательский движок»), отвечает за креатив. Другая независимо от первой выступает «критиком» (она называется «Центр ассоциативных оповещений») и отбраковывает неудачные решения. Но, пожалуй, самое интересное – это то, что эти системы имитируют измененные и пограничные состояния сознания или просто психические расстройства. Для этого создается то, что называется синаптическим шумом, и вносятся различные искажения. В общем, интеллект получается не только искусственным, но и не вполне нормальным.

Вопрос о творчестве и нормальности давно занимает человеческий разум. На этот счет высказывался еще Аристотель, считавший одаренность не даром богов, а сугубо физиологическим явлением. Правда, его рассуждения о меланхолии (то есть «черной желчи»), равно ответственной как за творчество, так и за мрачное состояние духа (долгое время меланхолия была диагнозом, теперь это депрессия), содержатся в книге, которая не входит в канон и только приписывается Аристотелю. Скорее, эта теория принадлежит Гиппократу, полагавшему, что характер человека определяет баланс четырех жидкостей в организме (светлой и темной желчи, флегмы и крови), а сам этот баланс назывался словом, обозначавшим смешивание вина с водой: по-гречески «красис», а по-латыни просто «темперамент».

Представления о том, что гениальность и психические расстройства идут рука об руку, особенно прочно укоренились в эпоху романтизма и оказались весьма живучими. Хотя современные исследования вроде бы и демонстрируют корреляцию между творчеством и определенными психическими заболеваниями, в первую очередь биполярными аффективными расстройствами (раньше это называлось маниакально-депрессивный психоз), а также шизофренией, всё не так однозначно. Это, однако, никак не мешает имитировать подобные расстройства в искусственном интеллекте. В результате ИИ способен сочинять психоделическую музыку и писать фантасмагорические картины. Образцы творчества Дабуса (и других систем ИИ) можно легко найти в интернете, и некоторые вполне можно оценить как занятные.

Что же изобрел этот искусственный и не совсем нормальный интеллект? Собственно, изобретений там целых два.

Во‑первых, это фрактальный контейнер, который может использоваться, например, для напитков. Он представляет собой «снежинку» Коха (это одна из первых фрактальных кривых, которая была описана еще в 1904 году шведским математиком Хельге фон Кохом). Предполагается, что такие контейнеры будут использоваться совместно: экономится пространство, их проще переносить, поскольку отдельные контейнеры сцеплены друг с другом (как фрагменты пазла), ими удобнее манипулировать роботизированной руке, а также у них лучше теплообмен.

Второе изобретение называется «нейронный огонек». Это проблесковая лампочка, которая ритмично мерцает, имитируя паттерны нейронной активности мозга для стимулирования концентрации во время творческого процесса. На самом деле там всё чуть хитрее, но в общем получается такая цветомузыка от искусственного интеллекта, которая, согласно описанию, мигает с частотой около 4 герц: это нижняя граница тета-ритма, который, как показывают различные исследования, действительно связан с вниманием.

Утилитарная ценность, да и практическая реализация обоих изобретений весьма сомнительна. На профессиональных форумах было высказано множество замечаний, как просто ехидных, так и вполне технических. Впрочем, это не мешает делу. В мире ежедневно регистрируются тысячи заявок, а в июне прошлого года ведомство по патентам и товарным знакам США выдало 10‑миллионный патент (считая с 1836 года, когда с принятием нового закона была изменена нумерация; а вообще первый американский патент был выдан еще в 1790 году и подписан самим Джорджем Вашингтоном). Неудивительно, что там встречаются настоящие перлы креатива. Так что творения Дабуса, будь они созданы человеком, были бы вполне патентоспособными. Проблема не в этом. Команда заявителей не скрывает, что они особо не рассчитывают на успех, но стремятся создать прецедент и надеются на широкий резонанс и серьезное обсуждение.

Ведь сама проблема действительно существует. Системы искусственного интеллекта уже успешно создают различные инновационные продукты. Пожалуй, особо стоит отметить сферу разработки лекарственных препаратов, где, как считают многие, началась настоящая революция. Традиционный подход к авторским и патентным правам очевидно отстает от жизни (к нему и без того имелось множество претензий).

Наверное, проще всего окажется с моральными соображениями, касающимися авторства. Хотя даже тут есть серьезные проблемы с тем, что это личные права, и мы неизбежно упираемся в то, что нужно что-то решать с личностью ИИ. Еще сложнее с имущественными правами. Выглядящая на первый взгляд вполне разумной идея патентовать результаты деятельности ИИ на авторов системы наталкивается на многочисленные трудности. Помимо собственно разработчиков программного (а иногда и специального аппаратного) обеспечения в процессе также участвуют поставщики данных (систему нужно на чем-то обучать), операторы обучения (даже самообучающиеся системы нужно учить учиться) и прочие заинтересованные лица. Кроме того, используемые алгоритмы и данные могут иметь различные режимы правовой охраны, а работы – выполняться на различных условиях. Несколько попыток построить модель, учитывающую все эти роли и факторы, пока признаны самими авторами не слишком удачными.

Ситуация дополнительно осложняется тем, что, как считается, пока мы имеем дело с так называемым «слабым искусственным интеллектом», но на подходе, возможно, «сильный». Это не более чем гипотеза. Сам термин «сильный ИИ» был придуман американским философом Джоном Сёрлем для его знаменитого мысленного эксперимента «Китайская комната». Если совсем уж упрощать, то слабый ИИ решает задачи, в том числе интеллектуальные, которые мы ему ставим. Сильный ИИ сам ставит себе задачи. То есть он способен не просто мыслить, но осознавать себя мыслящим. Хороший вопрос: чем или кем мыслящим? Машиной? Личностью? А ведь мы еще толком не разобрались даже с тем, что такое интеллект, и пока только пытаемся решить задачу, можем ли мы отличить искусственный разум от естественного. Речь не о том, чтобы внешне отличить машину от человека, а о том, чтобы отличить результаты деятельности, когда мы не знаем заранее, кому они принадлежат.

А тут еще и с правами интеллектуальной собственности надо что-то делать. Условные «консерваторы» предлагают не открывать ящик Пандоры. А в том, что произойдет именно это, особых сомнений нет – слишком многое во всем мире завязано на эти права. Да и ломать придется слишком многое.

Условные «энтузиасты» не менее справедливо указывают, что не меньшая опасность подстерегает всю мировую экономику, если проблему не решать, причем быстро: мы рискуем оказаться в ситуации, когда значительная часть результатов интеллектуальной деятельности окажется вне правового поля, а это катастрофа (как правило, не уточняя, для кого, хотя и так понятно).

Что ж, возможно, со временем сильный искусственный интеллект сможет решить для нас эту задачку.