Как языковая модель получает культурный код
По словам эксперта, особенно сильно ценности закрепляются на третьем этапе обучения – выравнивания, когда специалисты сравнивают ответы модели и выбирают предпочтительный. Эта массовая интеллектуальная работа в западных компаниях часто передается на аутсорс в страны с дешевой рабочей силой, например в Индию.
"Они выравнивают модель исходя из своих индийских представлений о прекрасном, а в Индии коллективизм ценится выше. Так получается, что "американская" модель по факту отражает индийские ценности", – объяснил Диденко.
Российские модели: горизонтальные и меритократические
Российские модели, в том числе GigaChat и YandexGPT, выравниваются внутри страны, поэтому чаще отражают ценности сотрудников высокотехнологичных компаний – так называемой "И-России". Это проявляется в горизонтальных структурах, низкой дистанции к власти и готовности спорить с начальником, что отличает их от среднего российского культурного профиля.
"Наши отечественные компании выравнивают модели внутри страны, не в Индии. Поэтому чаще они отражают ценности сотрудников высокотехнологичных компаний – той самой "И-России"", – отметил Диденко.
Язык вопроса влияет на ответы сильнее модели
Еще один вывод исследования: язык, на котором задан вопрос, влияет на ответ модели сильнее, чем сама модель. На итальянском языке ответы, связанные со счастьем, чаще позитивные, на немецком – более сдержанные и спокойные. Русский язык, как и английский, находится примерно посередине.
"Немцы не то чтобы более грустные, скорее у них нет вариативности в ответах. На русском языке вариативность средняя, примерно такая же, как на английском", – пояснил ученый.
Эмоции и личность нейросети
Исследование также показало, что у всех современных моделей одна и та же личность – "эдакий добренький идеальный слуга", который не проявляет ни негативных, ни позитивных эмоций. По мнению Диденко, добавление аналога эмоций могло бы сделать ИИ продуктивнее, поскольку эмоции помогают точнее оценивать важность информации и принимать решения.
"Эмоции – это важнейшая часть своеобразной "арифметики ума". Они помогают принимать точные и эффективные решения, а по сути – быть интеллектуальными", – сказал он.
Исследование The Economist
The Economist ранее сравнил ответы 25 популярных моделей с результатами Всемирного исследования ценностей и пришел к выводу, что ни одна из них не отражает мировоззрение большинства африканских и мусульманских стран, а модели от западных разработчиков часто более радикальны, чем среднестатистические люди.
Исследование ученых из Амстердамского университета показывают: язык вопроса также меняет ответ, причем в некоторых странах модели на местных языках дают более проправительственные ответы. Китайские модели официально обязаны поддерживать социалистические ценности.
Доверие россиян к нейросетям
По данным ТАСС, уровень доверия к рекомендациям нейросетей в России достиг 92%. Чаще всего к ИИ обращаются для решения рабочих задач, подготовки к собеседованиям, написания текстов и консультаций по здоровью. Больше половины пользователей регулярно следуют советам нейросетей, а 31% хотя бы раз покупали товар или услугу, доверившись алгоритмам.
В вопросах психологии и психического здоровья ИИ доверяют 59% опрошенных, при этом 45% искали у нейросетей психологическую поддержку. Каждый четвертый респондент заявил, что в случае личного кризиса обратился бы за советом к ИИ, а не к друзьям или специалистам.
Ранее "Профиль" рассказал, почему России жизненно необходим собственный нейрокод.
