На Ставрополье создали анализатор защиты нейросетей от искажения данных

О разработке рассказали представители пресс-службы учебного заведения, передает ТАСС в субботу, 23 декабря. Там отметили, что алгоритм, созданный в СКФУ, обеспечивает проверку уровня защиты нейросетей и предлагает способы ее усиления.

Как поясняют в вузе, состязательные атаки мошенников направлены на искажение данных. Они осуществляются с целью ввести систему в заблуждение и получить неправильный результат. Для предотвращения подобных действий и был разработан анализатор нейронных сетей.

Студенты СКФУ под руководством доцента кафедры информационной безопасности Марии Лапиной сделали работающий прототип анализатора. Он уже был апробирован на простых вариантах атак. На его базе планируется разработка программного обеспечения для защиты нейросетей.

Ключевая функция анализатора – распознавать поддельные файлы внутри нейросетей. Разработка может применяться в системах интеллектуального видеонаблюдения, которые способны распознавать образы лиц. Потенциальный взлом подобных устройств способен сделать преступника "невидимым" для системы.

Как отмечает ректор вуза Дмитрий Беспалов, нейросети могут выполнять анализ вредоносных файлов, позволяя сканировать их на предмет наличия скрытых или искаженных компонентов. Разработки СКФУ сосредоточены на повышении безопасности и устойчивости при кибератаках в любой сфере использования. "Это особенно важно, учитывая постоянно увеличивающееся число киберугроз", – отметил он.