Искусственный интеллект в информационной безопасности

Иллюстрация: Denis Sierov / Behance.net

Эксперты

Дмитрий Пудов, генеральный директор «NGR Softlab»	Станислав Сидоров, генеральный директор «Pro Control»	Сергей Полунин, руководитель группы защиты инфраструктурных ИТ «Газинформсервис»

Как ИИ применяется в ИБ уже сегодня

Технология искусственного интеллекта уже сейчас находится на высоком уровне развития, поэтому сценариев её применения в сфере информационной безопасности достаточно много. Сюда можно отнести анализ различных типов данных, выявление фишинга, спама, прогнозирование угроз и реагирование на инциденты.

Руководитель группы защиты инфраструктурных ИТ «Газинформсервис» Сергей Полунин отмечает высокие результаты ИИ при анализе вредоносного кода:

Вместо традиционного сигнатурного анализа, ИИ анализирует аномалии в поведении программного обеспечения и может обнаружить даже неизвестные ранее вирусы.

Сильные и слабые стороны ИИ в ИБ

К сильным сторонам ИИ можно отнести его эффективность и точность или, как принято говорить, отсутствие человеческого фактора. Кроме того, искусственный интеллект способен обрабатывать огромные массивы данных, которые практически невозможно обработать вручную. За счёт этого создаётся возможность обнаруживать угрозы в режиме реального времени.

К сильным сторонам ИИ в ИБ следует отнести существенный рост производительности и эффективности в широком спектре прикладных задач.

Дмитрий Пудов, генеральный директор «NGR Softlab»

Но при всём этом, ИИ остаётся неидеальной моделью, которая требует обучения на большом количестве данных и даже это не гарантирует успеха. Отсюда возникает проблема ложных результатов детектирования аномалий. Кроме того, ИИ требует больших вычислительных мощностей.

Обратной стороной технологии являются более высокие требования к вычислительным ресурсам, зависимость от датасетов для обучения моделей, сложности с ложноположительными срабатываниями. Например, объяснить результаты вывода многослойной нейронной сети сможет далеко не каждый. Также стоит помнить о потенциальных проблемных зонах и существующих рисках, связанных с особенностями текущего функционирования ИИ: «отравление» данных, проблема катастрофического забывания (catastrophic forgetting), ряд атак на модели (например, Adversarial attack) и т.п.

Дмитрий Пудов, генеральный директор «NGR Softlab»

Какие рутинные функции ИБ-специалиста может автоматизировать ИИ?

Сфера информационной безопасности нуждается в качественном развитие, а это значит, что нужна максимальная автоматизация рутинных процессов. ИИ уже на данном этапе развития способен выполнять разбор инцидентов, проводить анализ, обнаруживать и реагировать на инциденты.

Самое основное – это конечно анализ логов, которым отнимает довольно серьезное количество времени у специалистов по ИБ, причем даже с грамотно настроенной SIEM-системой. Разбор инцидентов, автоматизация реакции системы на инциденты – всё это может делать. ИИ уже сейчас.

Сергей Полунин, Газинформсервис

Примеры российских и зарубежных ИБ-решений с применением ИИ

Как было сказано в первом пункте, ИИ уже сейчас является помощников области информационной безопасности. Если говорить о модулях ИИ, то они достаточно часто встречаются в различных инструментах.

О некоторых из них рассказал Сергей Полунин:

Например Web Application Firewall’ы используются ИИ для закрытия уязвимостей в веб-приложениях, которые уже обнаружены, но для которых еще не вышел патч. Или, например решения, которые мониторят действия пользователей. Здесь система должна сначала обучиться тому, что в себя включают обычные действия пользователей, а затем уже на основании этих данных искать аномалии. Сюда же можно отнести DLP-решения, которые должны обнаруживать утечки конфиденциальных данных по различным техническим каналам связи. Ну и наконец SIEM-системы, которые агрегируют и коррелируют различные события из большого количества источников. ИИ здесь отлично справляется с выявлением еще большего количества инцидентов.

Также некоторые компании уже начали использовать технологию искусственного интеллекта в своих коммерческих решениях:

Наиболее яркими представителями являются системы поведенческого анализа (пользователей, трафика и других сущностей). Мировыми лидерами в этом классе решений считаются одни из первопроходцев этого рынка – Securonix и Exabeam. Российские альтернативы есть у NGR Softlab и R-Vision.

Дмитрий Пудов, генеральный директор «NGR Softlab»

Darktrace использует машинное обучение для обнаружения угроз, а CrowdStrike предлагает облачные решения с применением ИИ для защиты конечных точек. Среди российских компаний можно выделить Kaspersky Lab, которая использует ИИ в ряде своих продуктов для обнаружения и предотвращения угроз или Pro Control, которая применяет ИИ для анализа угроз и обнаружения поддельной продукции на прилавках магазинов.

Станислав Сидоров, компания Pro Control

Перспективы ИИ в сфере ИБ в ближайшие 5 лет

Искусственный интеллект не сможет полностью заменить ИБ-специалистов, считают некоторые эксперты. ИИ в ИБ, скорее, будет выполнять роль помощника для более быстрого и эффективного выполнения конкретного перечня задач. Но при этом мы увидим качественное развитие отрасли, когда все процессы будут направлены на улучшение, а не поддержание стабильной работы.

Сергей Полунин считает, что ИИ сможет лишь глубже проникнуть в процессы, которые доступны ему уже сейчас:

Я думаю, что основной вектор развития в ИБ – это еще более глубокое проникновение в технические решения, где нужно работать с вредоносным кодом, обнаруживать аномалии в сетевом трафике, искать и анализировать большие массивы исходных и всё в таком ключе. ИИ сам по себе не создаст каких-то принципиально новых подходов к защите, ему предстоит заменить человека, там, где это возможно.

А Дмитрий Пудов из «NGR Softlab» уверен в том, что глобальная интеграция ИИ в ИБ позволит совершить прорыв:

Уверен, что технологии LLM скоро активно начнут встраиваться в решения ИБ и мы в горизонте нескольких лет увидим настоящий прорыв. Также точкой роста является объединение преимуществ различных подходов, например, нейросимвольная интеграция обещает приблизить нас к AGI (artificial general intelligence) или “сильному ИИ”.