"Методические рекомендации разработаны в целях обеспечения единства подходов кредитных организаций, иностранных банков, осуществляющих деятельность на территории Российской Федерации через свои филиалы, некредитных финансовых организаций, лиц, оказывающих профессиональные услуги на финансовом рынке, субъектов национальной платежной системы к реализации принципа безопасности, надежности и эффективности в части обеспечения информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке", – указывается в документе.
Помимо прочего, в методических рекомендациях идет речь о галлюцинациях ИИ, дрейфе данных, "отравленных" наборах данных.
В числе рисков названы:
- риски, связанные с управлением данными, обусловленные использованием для обучения модели ИИ "отравленных" наборов данных, неактуальных и (или) некорректных наборов данных, влекущие за собой нарушение функционирования системы ИИ;
- риски нарушения конфиденциальности данных, обусловленные в том числе реализацией угроз безопасности технологий ИИ, влекущие за собой доступность информации лицам, не имеющим право на ее получение, нарушение авторских прав и (или) интеллектуальной собственности;
- риски нарушения функционирования модели ИИ, обусловленные реализацией угроз безопасности технологий ИИ, влекущие за собой снижение качества системы ИИ, в том числе галлюцинации ИИ, дрейф данных и иные варианты деградации модели ИИ, приводящие к некорректным выводам и решениям модели ИИ;
- риски отсутствия достаточной объяснимости и (или) предсказуемости действий модели ИИ, обусловленные сложностью интерпретации результатов исполнения модели ИИ, приводящие к некорректным выводам и решениям модели ИИ;
- риски, связанные с привлечением поставщиков услуг и (или) использованием компонентов технологий ИИ с открытым исходным кодом, обусловленные умышленными или неосторожными действиями сотрудников поставщика услуг, наличием слабостей и (или) уязвимостей в таких компонентах;
- риски, связанные с нарушением операционной надежности организации, обусловленные умышленными или неосторожными действиями в отношении системы ИИ, приводящие к прерыванию процессов основной деятельности организации.
Подчеркивается: "В случае использования ИИ для выполнения операций в автоматическом режиме в критически важных процессах (например, в платежных процессах, процессах учетных систем, которые отражают факты основной деятельности организации), когда риски информационной безопасности ИИ оценены организацией как высокие, организации рекомендуется реализовать валидацию результатов операций, выполненных ИИ в автоматическом режиме, человеком с возможностью изменения таких результатов".
Не так давно, 22 мая, глава Центробанка Эльвира Набиуллина назвала главным риском для развития ИИ в России избыток регулирования. Она указала при этом, что нужен общий понятийный аппарата и нужно стимулирование разработки собственных моделей. Набиуллина отметила, что финансовый сектор уже активно использует ИИ и нуждается в отсутствии избыточных барьеров.
