В Вашингтоне же хотели бы от ИИ-компаний, чтобы те просто делали свою работу и производили все более совершенные (но, конечно, максимально безопасные) продукты. И, желательно, активно убеждали бы простых американцев в преимуществах ИИ и светлом будущем всеобщего процветания.
"Очень трудно вообразить группу людей, которые находились бы в большем вакууме, были бы сильнее оторваны от жизни обычных американцев, чем ИИ-индустрия", – заявил Axios сенатор-республиканец Джон Кёртис.
По мнению демократа Ро Ханны из палаты представителей, "гендиректора вроде Сэма Альтмана говорят, что мир должен признать, будто происходят какие-то плохие вещи".
"Вы не можете доверять миллиардерам принятие решений о нашей безопасности", – подчеркивает он.
Сенатор Берни Морено написал гендиректору Anthropic Дарио Амодеи, что тот пытается посеять хаос в "публичном SI-дискурсе" (в США с легкой руки Дональда Трампа искусственный интеллект переименовали в "суперинтеллект", SI).
Отдельная история – посты в блогах Anthropic и OpenAI, которые нередко появляются в пятницу вечером.
"Регуляторам остается гадать, является ли это багом или фичей: сознательными попытками потихоньку скорректировать неприятные нарративы в преддверии IPO или работой неопытных команд, которые стремятся подтолкнуть к чему-то Вашингтон", – указывают в Axios.
"Мы можем спекулировать по поводу того, что происходит, но единственный итог таков: все просыпаются утром в понедельник и повторяют: «Эти парни ужасны, с нас хватит»", – говорит один из источников издания.
В последние месяцы представители Anthropic, OpenAI, а также Илон Маск неоднократно обращали внимание на то, что внедрение стремительно развивающегося ИИ может привести к неприятным последствиям. Подчас говорят даже об угрозе выживанию человечества.
Подробно об этих угрозах писал в "Профиле" Виктор Сергеев. Он, правда, испытывает некоторый скепсис: "Конкретных реалистичных сценариев – как именно ИИ может погубить людской род – никто не назвал. Есть несколько «прогнозов». Например, если цели ИИ будут не совпадать с человеческими, то потенциальный сверхинтеллект может приоритезировать свои задачи и решать их за счет жизней ввиду отсутствия у него морали как таковой (именно поэтому Anthropic активно прорабатывает этический свод правил, некий аналог законов Азимова). Нейросети могут разработать потенциально смертельный для человечества патоген. Могут одновременно атаковать значимую долю глобальной энергетической инфраструктуры. Могут стать причиной ядерного конфликта. Много чего могут, но, в конце концов, с тем же успехом могут этого и не сделать (вероятность, как говорится, 50 на 50)".
