Специалисты из T.Hunter зафиксировали появление в сети мошеннических писем и прочих текстовых материалов, созданных посредством ChatGPT. По мнению экспертов, возможности чат-бота с искусственным интеллектом позволяют преступникам ускорить процесс составления обращений к жертве и автоматизировать рассылку.
Также с помощью ChatGPT хакеры могут создавать естественные грамотные тексты, завоёвывая доверие потенциальной жертвы. При этом мошеннику не обязательно владеть языком пользователя — достаточно корректно поставить задачу и попросить нейросеть написать, например, на русском или французском. По сути, чат-бот берёт все обязанности по осуществлению мошеннической рассылки на себя — преступнику остаётся только добавить вредоносную ссылку.
В будущем возможно использование ChatGPT в фишинговых чатах, которые получают всё большее распространение. Там ИИ сможет имитировать живое общение, якобы с менеджером компании, вызывая доверие пользователя.
Андрей Воробьев, руководитель Координационного центра доменов .ru
Также эксперты опасаются, что ChatGPT будет использоваться для создания программ-шифровальщиков и плагинов, нацеленных на хищение паролей и прочих конфиденциальных данных. Уже сейчас мошенники тестируют ChatGPT в целях копирования страниц лицензионных торговых площадок.
С другой стороны, с помощью ChatGPT можно создавать защитные программы, способные фиксировать и предотвращать попытки мошенничества.