У понеділок Федеральне бюро розслідувань США повідомило про зростання кількості випадків використання ШІ для створення порнодіпфейків і подальшого шантажу, як дорослих, так і неповнолітніх.
«ФБР продовжує отримувати звіти від жертв, включаючи неповнолітніх і дорослих, чиї фотографії або відео були змінені на відвертий контент. Далі вони публічно поширюються в соціальних мережах або на порнографічних вебсайтах з метою переслідування жертв або вимагання грошей», — пишуть чиновники.
Зростання кількості звернень прийшлося на квітень 2023 року, і зазвичай зловмисники вимагали:
- Оплату (наприклад, гроші, подарункові картки), погрожуючи поширити зображення в соцмережах або надіслати друзям чи сім’ї.
- Надіслати реальні зображення чи відео сексуального характеру.
Нині представлено велику кількість програмного забезпечення та хмарних сервісів для створення таких фейків – починаючи з вільно доступних пропозицій із відкритим кодом, завершуючи доступом через облікові записи за передплатою. В останні роки швидкого розвитку генеративного ШІ, єдине що треба для створення доволі реалістичного контенту – зображення обличчя людини.
Значна частина сервісів нібито включає засоби захисту, які запобігають створенню діпфейків – наприклад, функція вбудованої перевірки, яка позначає «невідповідний контент». На практиці ці заходи легко обійти, або знайти альтернативні варіанти.
«Шахраї часто отримують знімки із соціальних мереж або з інших публічних платформ. Чимало постраждалих не знають, що їхні зображення копіювали, змінювали та поширювали, поки хтось інший не звернув на це увагу», — заявили представники ФБР.
Люди, які вже стикнулися з порнодіпфейками та здирництвом, повинні зберігати всі наявні докази: будь-які скриншоти, тексти, записи розмов, електронні листи, які документують імена користувачів, адреси електронної пошти, вебсайти або назви платформ, що використовуються для спілкування, та IP-адреси; та одразу звертатися до правоохоронних органів.
