По мнению специалистов по кибербезопасности, злоумышленники будут способны осуществлять полностью автоматизированные кибератаки – причем они будут характеризоваться большей быстротой, хитростью и персонализацией.
Высказываются опасения, что эти атаки могут остановить производство на заводах, вывести из строя больницы или взять под контроль энергосети – и все это еще до того, как кто-либо заподозрит неладное.
Таким образом, как отмечается, достижения в области генеративного ИИ дают хакерам возможность улучшить свои навыки и автоматизировать части цепочки атак.
Компании OpenAI и Anthropic, специализирующиеся на ИИ, уже обнаружили доказательства того, что противники в лице недружественных государств и киберпреступники используют их модели для написания кода и отработки атак.
В недавнем отчете Microsoft говорится, что у фишинговых писем, которые были автоматически сгенерированы с помощью ИИ, процент отклика со стороны обманутых пользователей достигает 54% по сравнению с 12% у фишинговых приманок, при написании которых не применялся ИИ.
По данным опроса киберспециалистов, проведенного Deep Instinct – компанией, занимающейся кибербезопасностью на базе ИИ, – хакеры всё чаще атакуют компании, предоставляющие критически важные инфраструктурные и финансовые услуги.
Утверждается, в частности, что китайские, российские, иранские и северокорейские кибервоенные уже осваивают новые инструменты ИИ.
В этих условиях лидеры в сфере кибербезопасности делают ставку на то, что их собственные средства ИИ смогут противодействовать подобным атакам. Они рассчитывают использовать ИИ для мгновенного анализа сотен тревожных сигналов, после чего вовремя реагировать на реальные угрозы в этом массиве. Модели ИИ также показывают способность генерировать безопасный код, где нет уязвимостей.
По данным Deep Instinct, более 80% крупных компаний уже используют ИИ для усиления собственной киберзащиты – например, если речь идет о крупной транспортной компании, то, по оценкам, можно сократить время реагирования на атаки с трех недель до 19 минут.
Специалисты по отражению киберугроз рассчитывают, что автономные схемы кибербезопасности на базе ИИ вскоре смогут помогать выявлять уязвимости, которые ни один человек не сможет найти самостоятельно; обнаруживать кибервторжения до того, как они произойдут, за миллисекунды применять контрмеры, а затем извлекать уроки из этих действий для дальнейшего совершенствования.
