Как отмечают инициаторы, законопроект направлен на защиту прав и интересов граждан. Клиенты должны иметь возможность взаимодействия с оператором-человеком или получать ясное указание на автоматизированный характер ответов.
Подчеркивается, что такое информирование поможет минимизировать риски манипуляций и мошенничества. Так, наличие функции переключения на живого специалиста снижает риск недопонимания.
К опасностям общения с ИИ отнесено, в частности, то, что чат-боты и автоответчики могут не решить проблемы в нестандартных ситуациях, а неверное решение ИИ может привести к фатальным последствиям, считает руководитель проекта Content-Review Сергей Половников.
При этом крупные компании злоупотребляют ИИ, что снижает оперативность решения проблем клиентов. Так, банки и маркетплейсы переводят общение с клиентами на голосовых помощников, что не способствует оперативному решению проблем, отметила председатель коллегии адвокатов "Сулим и партнеры" Ольга Сулим.
Компании зацикливают платформы на ИИ, что приводит к невозможности достучаться до консультантов, отметил гендиректор группы компаний ST IT, эксперт рынка TechNet НТИ Антон Аверьянов.
