Искусственный интеллект помогает обойти фильтры и распространять спам
Фото: Pau Barrena / Getty Images
Исследователи из SentinelLabs сообщили о новой волне спам-атак, в которых активно использовались возможности больших языковых моделей. С сентября 2024 года по январь 2025-го неизвестные злоумышленники с помощью фреймворка AkiraBot провели масштабную спам-кампанию, охватившую более 80 000 сайтов по всему миру.
Главная «фишка» атакующих — автоматическая генерация уникальных сообщений с помощью OpenAI. Используя модель gpt-4o-mini, они на каждый сайт отправляли текст, который упоминал название ресурса и кратко описывал его тематику, создавая иллюзию персонального обращения. Эти сообщения рассылались через контактные формы и онлайн-чаты, что позволяло обходить фильтры, ориентированные на шаблонные письма.
В качестве запроса для ИИ использовалась фраза: «Ты — полезный помощник, создающий маркетинговые сообщения». Далее в коде подставлялось название конкретного сайта, и модель выдавала уникальный текст, адаптированный под получателя. Таким образом, ни одно письмо не повторяло другое, что сделало их почти неуязвимыми для стандартных антиспам-систем.
Чат-подсказка ИИ, используемая AkiraBot. Скриншот: SentinelLabs
Интересно, что бот оставлял на сервере журналы логов, с помощью которых исследователи смогли оценить масштабы операции. Удалось доставить сообщения более чем на 80 тысяч доменов. Ещё около 11 тысяч попыток оказались неудачными.
После уведомления от SentinelLabs компания OpenAI заблокировала аккаунт злоумышленников и напомнила, что использование их сервисов в подобных целях нарушает правила. Однако сам факт того, что атака продолжалась в течение четырёх месяцев до вмешательства специалистов, подчёркивает важность более проактивного подхода к кибербезопасности.
Аналитики предупреждают: такие инциденты — лишь начало новой эры, где ИИ может использоваться не только во благо, но и как мощный инструмент киберпреступлений.
