«Все мы потенциальные жертвы» (с).
С развитием искусственного интеллекта количество дипфейков в интернете растет в геометрической прогрессии, а жертвами становятся как знаменитости, так и обычные люди, просто опубликовавшие свое фото в соцсетях. В новом документальном фильме «Другое тело» женщины, пострадавшие от дипфейк-порно рассказывают, как пытаются дать отпор мощной, но очень опасной технологии.
Работа, срежиссированная Софи Комптон и Рубеном Гемлином, рассказывает об опыте студентки инженерного колледжа Тейлор (имя выдуманое). 22-летняя девушка обнаружила свое лицо в порносценах на популярном сайте PornHub после сообщения друга. Больше того — видео было размещено из профиля с ее настоящим именем, городом проживания и колледжем.
Заручившись поддержкой другой пострадавшей девушки, Тейлор начала изучать 4Chan и другие сайты, где есть специализированные форумы, в поисках своего обидчика, и наткнулась на еще одну жертву — популярную ASMR-артистку Джиби, у которой почти 5 млн подписчиков на YouTube и 280 тысяч на Twitch.
Стример рассказала, что сейчас получает настолько большое количество сообщений о собственных порнодипфейках, что и не вспомнит, когда все началось. Однако отмечает, что качество подделок значительно выросло в последнее время. По словам Джиби, рекламодатели часто не разбираются в том, было ли видео настоящим и просто разрывают контракты с создателями.
Джиби говорит, что история Тейлор вдохновила ее выпустить на YouTube видео, где она рассказала о своем опыте работы с фейками, созданными искусственным интеллектом. Ролик, опубликованный в прошлом году, с тех пор собрал около полумиллиона просмотров.
По словам адвоката Адама Доджа, который также дает комментарии в фильме, жертвам больше не нужно иметь свои интимные изображения в интернете, чтобы стать мишенью преследования — для этого пригодятся общедоступные фотографии с Instagram или веб-сайта колледжа, а дальше все сделает злоумышленник и искусственный интеллект.
«Мы все теперь потенциальные жертвы. Все, что нужно – это просто изображение нашего лица», – сказал Додж.
В 2024 году в США состоятся первые дипфейк-выборы — такие тезисы в последние месяцы все чаще звучат в статьях и на телевидении, поскольку технологии генеративного ИИ уже использовались во время предвыборных кампаний Дональда Трампа и Рональда Десантиса, которые пытались дискредитировать друг друга; против нынешнего президента США Джо Байдена дипфейки также распространяются регулярно.
Законодатели — вероятно, обеспокоенные тем, что их лица также могут вскоре оказаться в работах, сгенерированных искусственным интеллектом, — поспешили предложить более десятка законопроектов, которые могли бы предотвратить господство дипфейков на государственном и федеральном уровнях. Додж тем временем говорит, что к порнодипфейкам и подавно нет такого большого внимания.
«Насилие в отношении женщин — это проблема, которой никогда не уделяют должного внимания, ее постоянно подрывают в пользу других нарративов, а законодатели и политики сосредоточены на глубокой фейковой дезинформации, которая была бы направлена на политическую сферу, поскольку это проблема, влияющая на них лично . Действительно, мы говорим о вопросах привилегий», — сказал адвокат в комментарии Gizmodo.
Порнодипфейки в это время распространяются в поразительном количестве. Wired со ссылкой на независимое исследование утверждает, что за последние 7 лет на 35 самых популярных сайтов с порнодипфейками было загружено около 244 625 видео. Почти половина из них загружены в течение первых девяти месяцев 2023 года.
«Инструменты искусственного интеллекта стали доступнее, а спрос на порнодипфейки вырос. Новые генеративные модели будут только увеличивать это количество», — сказал доцент Ашер Флинн в интервью Wired.
Десяток штатов США в это время уже приняли законы, предусматривающие уголовную ответственность за распространение порнодипфейков без согласия. В Нью-Йорке в декабре вступает в силу закон, запрещающий распространение откровенно сексуальных изображений, созданных с помощью искусственного интеллекта, и предусматривает до 1 года лишения свободы.
На федеральном уровне законодатели давят на ИИ-компании по созданию цифровых водяных знаков, которые будут четко сообщать людям, что контент создан генеративной технологией. В то же время и такие меры предосторожности не всегда могут быть эффективными.
Ранее мы сообщали, что количество дипфейков в интернете выросло в геометрической прогрессии с 2019 года (и качество тоже) — если тогда было обнаружено менее 15 000, то в настоящее время количество глубоких фейков исчисляется миллионами. По данным Всемирного экономического форума, количество дипфейков продолжает расти ежегодно на 900%.