В ходе встречи с американскими журналистами представители ФБР акцентировали внимание на легкости создания вредоносного ПО с помощью языковых моделей ИИ и важности этой проблемы. Обученные на соответствующем контексте, LLM позволяют создавать полиморфное программное обеспечение, способное обходить системы безопасности, без помощи высококвалифицированных программистов.
«Мы ожидаем, что со временем, по мере внедрения и демократизации моделей ИИ, эти тенденции будут усиливаться»
В ФБР не стали уточнять, какие конкретно модели используют злоумышленники, но отметили, что хакеры тяготеют к бесплатным, настраиваемым моделям с открытым исходным кодом. Также используются специальные модели, созданные и обученные для вредоносных целей, распространяемые за деньги.
Другое направление деятельности злоумышленников – фишинг. Языковые модели помогают создавать убедительные тексты и сайты, служащие платформой для фишинга и скрытого заражения вредоносным кодом. Еще одна сфера вредоносной активности ИИ – создание дипфейков сексуальной тематики для вымогательства денег.
В большинстве дел, которые привлекли внимание бюро, злоумышленники использовали модели ИИ для поддержки традиционных преступных схем. Например, для классического обмана родственников мнимых пострадавших теперь используются сгенерированные семпл их голоса.
ФБР обсудило эти тенденции с компаниями, занимающимися ИИ, чтобы заручиться их поддержкой. В частности, обсуждалось внедрение «водяных знаков» в сгенерированный контент. Ведомство заявило, что рассматривает борьбу с использованием ИИ для преступных целей в качестве национального приоритета.
Источник: PCmag