Під час зустрічі з американськими журналістами представники ФБР акцентували на легкості створення шкідливого програмного забезпечення за допомогою мовних моделей ШІ та важливості цієї проблеми. Навчені на відповідному контексті, LLM дозволяють створювати поліморфне програмне забезпечення, здатне оминати системи безпеки, без допомоги висококваліфікованих програмістів.
«Ми очікуємо, що згодом, у міру впровадження та демократизації моделей ШІ, ці тенденції посилюватимуться»
У ФБР не стали уточнювати, які конкретно моделі використовують зловмисники, але зазначили, що хакери тяжіють до безплатних моделей з відкритим вихідним кодом. Також використовуються спеціальні моделі, створені та навчені для шкідливих цілей, які розповсюджуються за гроші.
Інший напрямок діяльності зловмисників – фішинг. Мовні моделі допомагають створювати переконливі тексти та сайти, що стають платформою для фішингу та прихованого зараження шкідливим кодом. Ще одна сфера шкідливої активності ШІ – створення дипфейків сексуальної тематики задля здирництва.
У більшості справ, які привернули увагу бюро, зловмисники використали моделі ШІ для підтримки традиційних злочинних схем. Наприклад, для класичного обману родичів уявних постраждалих тепер використовуються згенеровані семпли їхнього голосу.
ФБР обговорило ці тенденції з компаніями, які займаються ШІ, щоб заручитися їхньою підтримкою. Зокрема, обговорювалося впровадження «водяних знаків» у згенерованому контенті. Відомство заявило, що розглядає боротьбу з використанням ШІ для злочинних цілей як національний пріоритет.
Хакерський чатбот WormGPT «заточений» на розробку шкідливого ПЗ та шахрайство
Джерело: PCmag