В понедельник Федеральное бюро расследований США сообщило о большом количестве случаев использования ИИ для создания порнодипфейков и последующего шантажа, как взрослых, так и несовершеннолетних.
«ФБР продолжает получать заявления от жертв, включая несовершеннолетних и взрослых, чьи фотографии или видео были изменены на откровенный контент. Далее они публично распространяются в социальных сетях или на порнографических веб-сайтах с целью преследования жертв или вымогательства денег», – пишут чиновники.
Рост количества обращений пришелся на апрель 2023 года, и обычно злоумышленники требовали:
В настоящее время представлено немало программного обеспечения и облачных сервисов для создания таких фейков – начиная со свободно доступных предложений с открытым кодом, заканчивая доступом через учетные записи по подписке. В последние годы быстрого развития генеративного ИИ, единственное, что нужно для создания достаточно реалистичного контента – изображение лица человека.
Значительная часть сервисов якобы включает средства защиты, которые предотвращают создание дипфейков – например, функция встроенной проверки, которая определяет «несоответствующий контент». На практике эти меры легко обойти или найти альтернативные варианты.
«Мошенники часто получают снимки из социальных сетей или других публичных платформ. Многие пострадавшие даже не знали, что их изображения копировали, изменяли и распространяли, пока кто-то другой не обратил на это внимание», — заявили представители ФБР.
Люди, которые уже столкнулись с порнодипфейками и вымогательством, должны сохранить все доказательства: любые скриншоты, тексты, записи разговоров, электронные письма, документирующие имена пользователей, адреса электронной почты, веб-сайты или названия платформ, которые использовались для общения, и IP-адреса; и сразу обратиться в правоохранительные органы.