В сообществе модеров Skyrim разгорелась дискуссия об использовании сгенерированных ИИ реплик голосами реальных актеров в модификациях к игре, особенно порнографических. Подобные моды стали появляться на NexusMods, о чем узнали актеры и попросили удалить контент. Ресурс ответил, что не против творчества ИИ, но контент должен соответствовать авторскому праву и не использовать биометрические данные людей без их согласия. Некоторые моды были удалены по запросу.
Суть проблемы
ИИ обучается на голосах реальных актеров озвучки, полученные фрагменты используются в модах, в том числе и откровенного содержания. По сути, в порно использовались сгенерированные фразы на основе биометрических данных реальных людей, которые не давали на это согласия.
«Если вам нужна озвучка, заплатите актеру. Если вы не можете позволить себе актера, попросите кого-нибудь сделать это бесплатно. Если вы не можете найти того, кто сделает это бесплатно, вы не получите озвучку. Брать голос актера без его согласия и заставлять его говорить что-либо, особенно озвучивать контент для взрослых, чертовски отвратительно», — говорит Зейн Шахт, актер озвучки игр.
Как можно использовать реплики, произнесенные клонированным голосом актера? Кто-то может создать мод истории существующего игрового персонажа, в том числе и с порнографическим содержанием, используя голос из оригинальной озвучки этого персонажа. Также можно создать полностью независимые сюжеты или персонажей с использованием существующей в игре озвучки. Возможно также добавлять клонированные голоса сторонних актеров.
Как развивались события
На NexusMods стали появляться десятки модов с озвучкой клонированными с помощью ИИ голосами реальных актеров. Часть модов имело эротический и порнографический характер. На проблему обратил внимания пользователь @Robbie92_:
With the rise of AI voice cloning, voice actors are being abused by the modding communities. As a member of the Skyrim modding scene, I am deeply concerned at the practice of using AI voice cloning to create and distribute non-consensual deepfake pornographic content. pic.twitter.com/ySUFqrtjH0
— Robbie (@Robbie92_) July 1, 2023
«С развитием клонирования голоса с помощью искусственного интеллекта модификации сообщества стали злоупотреблять голосами актеров озвучки. Как участник модерского сообщества Skyrim, я глубоко озабочен практикой использования искусственного интеллекта для клонирования голоса при создании и распространении порнографического контента без согласия».
Пост включает в себя список актеров, чьи голоса предположительно использовались в порномодах Skyrim. Пользователь также поделился списком ссылок на десятки модов, которые используют голоса, клонированные ИИ с помощью ElevenLabs.
По словам @Robbie92_, актеры озвучивания, обратившиеся к NexusMods, крупнейшей базе модов для Skyrim и других игр, смогли удалить связанный с ними контент. В качестве примера он приводит модификацию Valerica, Lust of a Mother. Робби и другие представители сообщества обратились к актрисе озвучивания Валерики, Синди Робинсон, чтобы привлечь ее внимание к моду. Она ответила, что попросит удалить его и подтвердила это журналистам Kotaku. Версия мода с озвучкой была удалена.
Многие актеры озвучивания высказали свое мнение в Twitter и на других платформах:
«Я не согласен с тем, чтобы мой голос превращали в синтетические голосовые клоны без моего абсолютного, четкого, конкретного и неоспоримого согласия. Если вы услышите мой голос в одной из таких ситуаций, пожалуйста, дайте мне знать, чтобы я мог попросить его убрать. Я не даю согласия на использование моих биометрических данных для этих целей», — написал актер Бен Дискин, озвучивавший многие игры, в том числе The Elder Scrolls Online.
«Пожалуйста, скажите мне, если вы найдете мой голосовой отпечаток в таких местах. Я не хочу, чтобы люди используя ИИ, чтобы вкладывать слова в мои уста», — Кайл Маккарли, актер озвучки аниме и игр.
«Это действительно тревожно. Я буду следить за этим», — Элиза Габриэлли, озвучившая Мавен Черный Вереск в Skyrim и принимавшая участие в создании десятков других игр.
«Если вы найдете мой голос в одном из этих модов, пожалуйста, дайте мне знать, чтобы я мог попросить его удалить. Никогда не будет моего согласия на использование моего голоса для синтеза ИИ, клонирования, дипфейков и т. д. Это НЕ нормально», — Эбби Веффер, озвучившая нескольких персонажей в Genshin Impact и The Elder Scrolls Online: Necrom.
«Это НЕПРАВИЛЬНО на каждом уровне! Это тревожно. Что не так с людьми? Клонирование голоса ИИ выходит из-под контроля. Не поддерживайте ИИ-репликацию голосов актеров в любой формее. Пожалуйста, дайте мне знать, если вы когда-нибудь столкнетесь с тем, что мой голос используется таким образом, я не даю согласия», — Райан Лоутон, чей голос можно услышать в Diablo 4, Hitman 2 и Return of the Obra Dinn.
Национальная ассоциация актеров озвучивания США также выказалась по вопросу: «Ущерб, наносимый ИИ и синтетическими голосами актерам озвучивания и игровым компаниям, является реальным и ощутимым». Ассоциация призвала Bethesda и ZeniMax помочь в ситуации, поскольку актеры озвучивания «не имеют законных полномочий бороться с этим».
Позиция NexusMods и ElevenLabs
Ресурс предусмотрел подобное развитие событий еще весной. В объявлении NexusMods от апреля 2023 года говорится:
«Содержимое модов, созданное ИИ, не противоречит нашим правилам, но может быть удалено, если мы получим заслуживающую доверия жалобу от затронутого создателя или правообладателя».
Однако в Kotaku сомневаются, что проблема исчерпана – в настоящее время на сайте активны спорные моды, созданные искусственным интеллектом.
Условия ElevenLabs требуют, чтобы люди, использующие программное обеспечение, получали согласие на загрузку и клонирование голосовых образцов. Но по факту это не помешало использовать эту технологию для создания откровенного контента без согласия.
В то же время многие катеры озвучки охотно помогают в создании модов, когда их об этом просят. Только в апреле этого года группа фанатов Hollow Knight и более 100 актеров озвучили более 400 персонажей. Сообщество Skyrim и других игр Bethesda много лет сотрудничает с актерами, в том числе и при создании больших модов, таких как Fallout: London.
Источники: Kotaku, GamesRadar