Чат-бот создаёт вредоносов

Чат-бот ChatGPT на основе нейронных сетей способен генерировать программный код и уклоняться от ответа. За разработкой стоит компания OpenAI, которая запрещает использовать нейросеть для противозаконных целей, но злоумышленников это не останавливает.

В первые недели после запуска чат-бота участники хакерских форумов в даркнете проявили большой интерес к нейросети. Создать вредоносный код получили возможность не только программисты, но и те, кто никогда не имел дела с программированием.

На одном из теневых форумов появилось подтверждение возможностей чат-бота. Злоумышленник поручил нейросети задачу написать код для скрипта, крадущего определённые файлы с устройства жертвы и отправляющего их злоумышленнику.

С учётом такого внимания к нейросети, она может быть приобрести ещё большую популярность среди хакерских сообществ. ИБ-специалисты решили также проверить, возможно ли обойти ограничения, созданные компанией. Нейросеть умеет запоминать темы разговора и избегать спорных тем. Но исследователям всё же удалось заставить чат-бота сгенерировать фишинговое письмо со встроенным файлом, крадущим данные.