В обсуждении приняли участие руководитель направления облачных и дата-сервисов VK Tech Дмитрий Лазаренко и другие спикеры. Эксперты обсудили, какие меры необходимо предпринимать компаниям для защиты от утечек данных через ИИ-модели, и поделились рекомендациями по выбору надежных ИИ-сервисов и партнеров.
Искусственный интеллект: новые вызовы для корпоративной безопасности
Внедрение искусственного интеллекта (ИИ) в бизнес-процессы набирает обороты, однако вместе с этим растут и риски для корпоративной безопасности. Многие компании пока не готовы к защите от новых угроз, связанных с использованием ИИ.
За последние два года стоимость использования ИИ снизилась в 280 раз, что делает его доступным для широкого круга организаций. Однако это также приводит к быстрому устареванию моделей ИИ, которые требуют регулярного переобучения и проверки.
Лазаренко уточняет, что в США и Европе 88% компаний уже используют искусственный интеллект, но только шесть компаний получают реальную экономическую выгоду от их применения. При этом 91% организаций применяет AI-агентов, но лишь 10% имеют разработанные стратегии управления их идентичностью. Это говорит о том, что большинство компаний не готово к управлению рисками, связанными с использованием ИИ.
Примером уязвимости в этой сфере стал инцидент с Microsoft Copilot, где агент выдал доступ к файлам без необходимости открытия письма, что может привести к утечке конфиденциальной информации.
Для улучшения управления агентами эксперты рекомендуют провести реорганизацию структуры компании. В частности, Лазаренко предлагает создать реестр агентов, распределить ответственность за каждого из них и внедрить систему контроля за принимаемыми решениями. Кроме того, важно четко определить полномочия агентов и разработать меры для минимизации рисков. Для обеспечения бесперебойной работы он рекомендует создать план на случай непредвиденных ситуаций и разработать механизм быстрого отключения агентов в случае их неконтролируемого поведения.
Генеративный ИИ приходит на помощь крупному бизнесу
Современные технологии искусственного интеллекта становятся незаменимыми помощниками для крупного бизнеса.
Лазаренко отмечает тенденцию к переходу на локальные нейросети для критически важных информационных систем. Крупные компании стремятся создать защищенные корпоративные облака для хранения и обработки данных, что повышает уровень безопасности и снижает зависимость от внешних платформ.
Однако создание полностью отечественных нейросетевых решений – это длительный и ресурсоемкий процесс. В настоящее время основные российские нейросети разработаны на базе иностранных платформ, таких как Google PyTorch и TensorFlow, уточнил эксперт.
