Использование дипфейков в фишинге

Изображение: Alan Warburton / BBC

Эксперт

Сергей Полунин, руководитель группы защиты инфраструктурных ИТ «Газинформсервис»

Какие виды дипфейков уже сегодня применяются при реализации кибератак и представляют наибольшую опасность?

Классификаций дипфейков можно изобрести много, но обычно выделяют дипфейки видео и изображений, аудио дипфейки, а также текстовые дипфейки. Отдельно можно рассмотреть дипфейки в соцсетях, а такие дипфейки в реальном времени, но это чисто вопрос терминологии. Какие из них наиболее опасные – вопрос открытый. Это очень зависит от того, как именно этот дипфейк будет использован. Опасность может представлять даже просто текст, написанный в стиле автора, но содержащий вымышленные факты и размещенный на авторитетном интернет-ресурсе.

Объявление с предложением о создании дипфейков

Методики обнаружения deepfake атак и методы минимизации рисков

Здесь есть два основных подхода.

Во-первых, есть специальное программное обеспечение, которое позволяет обнаруживать дипфейки. Они построены на ИИ и на сегодняшний день довольно неплохо распознают искусственно созданные изображения, аудио и видео материалы. Это достаточно продвинутое ПО, причём от крупных вендоров, так и от стартапов. Интерес к таким разработкам крайне велик и стоит ожидать появления еще большего количества решений.

Во-вторых, не стоит списывать со счетов наш собственный интеллект. Мы по косвенным признакам можем начать сомневаться в подлинности материала и по каким-то мелким деталям понять, что что-то с этими материалами не так.

Как бы выглядел Джим Керри в фильме «Сияние»

Что должна делать компания чтобы избежать проникновения в информационные системы при дипфейк атаке?

Вопрос верификации получаемой информации поднимется довольно давно и в этом смысле ситуация мало отличается от того, чем занимаются журналисты, работающие с лентами новостей. Фейковая новость на уважаемом ресурсе, например, в результате взлома может иметь самые разрушительные последствия. Ещё в 2013 году до появления самого термина deepfake слух о взрыве в Белом доме, опубликованный во взломанном твиттере новостного агентства, вызвал обвал акций. Сегодня, с появлением полноценных дипфейков, ситуация стала ещё серьёзнее и теперь в ход должны идти все инструменты – программное обеспечение для обнаружения дипфейков, обучение сотрудников, различные техники верификации источников.