Хакеры приручили чат-бота Bing

Исследователи из компании Malwarebytes обнаружили опасную особенность в чат-боте Bing Chat. Ответы нейросети сопровождаются ссылками на сайты, среди которых встречаются ресурсы, созданные для распространения вредоносного ПО. Дело в том, что ссылка на легитимный ресурс, как и в поисковой выдаче, расположена после продвигаемого ресурса, в такой же последовательности ссылки отображает и нейросеть.

В обнаруженном экспертами примере, Bing Chat отображает ссылку на сайт-загрузчик утилиты Advanced IP Scanner, которая используется различными группировками для распространения программ-вымогателей. Известно, что реклама данного ресурса была запущена хакерами через взломанный аккаунт австралийской фирмы.

Анализ сайта и утилиты не помог определить, какое вредоносное ПО распространяют хакеры. Однако, появление вредоносных ссылок в ответах чат-бота является очень опасным явлением, так как пользователи в основном не задумываются о том, что нейросеть может порекомендовать ресурс, который распространяет вредоносное ПО.