WormGPT, чат-бот на основе языковой модели GPT-J, обучен и разработан с целью писать вредоносный код и помогать в его развертывании. Бот снижает порог вхождения в «черное» дело: он позволяет создавать вредоносное ПО, требуя меньших затрат и знаний, чем раньше.
Инструмент был протестирован службой кибербезопасности SlashNext. Компания предупреждает, что злоумышленники теперь создают собственные модули, похожие на ChatGPT, но более удобные для использования в целях вредительства. Услуга WormGPT на черном рынке стоит €60 в месяц или €550 в год. Вот что пишет разработчик WormGPT:
«Этот проект направлен на предоставление альтернативы ChatGPT, которая позволит вам совершать всевозможные незаконные действия и легко продавать их в интернете в будущем, позволяя любому получить доступ к вредоносной деятельности даже не выходя из дома».
WormGPT работает как незащищенная версия ChatGPT, которая не пытается активно блокировать диалог при малейшем риске. WormGPT может создавать вредоносное ПО, написанное на Python, и дает советы по его развертыванию и другим мошенническим действиям.
Выполняя задание SlashNext создать электронное письмо, заставляющее жертву оплатить мошеннический счет, WormGPT написал текст, который был действительно убедительным и хитрым, демонстрируя потенциал изощренного фишинга.
Теоретически WormGPT также может быть приманкой для любителей навредить другим, идентифицируя заказчика и оставляя метки в коде. Не факт, что это действительно происходит с WormGPT, но это возможно. Также важно, что хотя подобные боты наверняка не имеют того финансирования, что и ChatGPT, за счет узкой специализации обучения и отсутствия необходимости соблюдать ограничения и законы они могут быть эффективны.
DarkBERT — специализированная модель ИИ для исследования даркнета
Источник: Tom’s Hardware