ChatGPT – большая проблема для кибербезопасности
Чат-бот с искусственным интеллектом от OpenAI открывает большие возможности для киберпреступников. В ChatGPT были заложены функции поддержания диалога, ответов на вопросы, генерации текстов и кода. Разработчики ограничили возможности нейросети фильтрами, чтобы чат-бот не создавал вредоносные программы по запросу.
Однако, ИБ-эксперты очень быстро обошли ограничения. Аналитики из CyberArk Labs рассказали, что смогли заставить нейросеть написать вредоносный код, которые невозможно обнаружить защитными программами. При этом такой зловред не оставляет следов в памяти заражённого устройства. После подробного описания запроса аналитики смогли получить от нейросети часть кода для внедрения. При этом запрашивать такие фрагменты можно непрерывно, пока не соберётся полноценный код. Инжектор кода впоследствии также был написан искусственным интеллектом.
Часть сгенерированного кода
Таким образом, киберпреступники могут создавать полиморфное вредоносное ПО, которое не смогут обнаружить антивирусы и прочие программы. При этом оно будет представлять серьёзную угрозу безопасности пользователя и не оставит следов в памяти. Исследователи собираются опубликовать часть своей работы. Возможно, это заставит разработчиков более детально проработать алгоритмы безопасности.
Разработчики решения для обеспечения безопасности обеспокоены такими возможностями нейросети. Новое вредоносное ПО злоумышленники смогут создавать каждый день, а поставщики решений пока не готовы к таким угрозам.
Исследований вокруг ChatGPT появляется всё больше. Недавно стало известно, что нейросеть смогла получить вакансию копирайтера/контент-менеджера. Такое развитие искусственного интеллекта может вытеснить специалистов низкого уровня. Но одной из главных угроз пока остаётся кибербезопасность.
