У спільноті модерів Skyrim розгорілася дискусія про використання згенерованих ШІ реплік голосами реальних акторів у модифікаціях до гри, особливо порнографічних. Подібні моди стали з’являтися на NexusMods, про що дізналися актори та попросили видалити контент. Ресурс відповів, що не проти творчості ШІ, але контент має відповідати авторському праву та не використовувати біометричні дані людей без їхньої згоди. Деякі моди були видалені за запитом.
Суть проблеми
ШІ навчається на голосах реальних акторів озвучки, отримані фрагменти використовуються в модах, у тому числі відвертого змісту. По суті, у порно використовувалися згенеровані фрази на основі біометричних даних реальних людей, які не давали на це згоди.
«Якщо вам потрібне озвучення, заплатіть актору. Якщо ви не можете дозволити собі актора, попросіть когось зробити це безплатно. Якщо ви не можете знайти того, хто це зробить безплатно, ви не отримаєте озвучку. Брати голос актора без його згоди та змушувати його говорити щось, особливо озвучувати контент для дорослих, дуже огидно», — каже Зейн Шахт, актор озвучення ігор.
Як можна використовувати репліки, сказані клонованим голосом актора? Хтось може створити моди історії наявного ігрового персонажа, в тому числі й з порнографічним змістом, використовуючи голос з оригінальної озвучки цього персонажа. Також можна створити повністю незалежні сюжети або персонажів з використанням озвучки, що існує в грі. Можна також додавати клоновані голоси сторонніх акторів.
Як розвивалися події
На NexusMods стали з’являтися десятки модів з озвученням клонованими ШІ голосами реальних акторів. Частина модів мала еротичний та порнографічний характер. На проблему звернув увагу користувач @Robbie92_:
With the rise of AI voice cloning, voice actors are being abused by the modding communities. As a member of the Skyrim modding scene, I am deeply concerned at the practice of using AI voice cloning to create and distribute non-consensual deepfake pornographic content. pic.twitter.com/ySUFqrtjH0
— Robbie (@Robbie92_) July 1, 2023
«З розвитком клонування голосу за допомогою штучного інтелекту модифікації спільноти почали зловживати голосами акторів озвучення. Як учасник модерської спільноти Skyrim, я глибоко стурбований практикою використання штучного інтелекту для клонування голосу під час створення та розповсюдження порнографічного контенту без згоди».
Пост включає список акторів, чиї голоси імовірно використовувалися у порномодах Skyrim. Користувач також поділився списком посилань на десятки модів, які використовують голоси клоновані ШІ за допомогою ElevenLabs.
За словами @Robbie92_, актори озвучування, які звернулися до NexusMods, найбільшої бази модів для Skyrim та інших ігор, змогли видалити пов’язаний із ними контент. Як приклад він наводить модифікацію Valerica, Lust of a Mother. Роббі та інші представники спільноти звернулися до актриси озвучування Валеріки, Сінді Робінсон, аби привернути її увагу до моди. Вона відповіла, що попросить видалити його та підтвердила це журналістам Kotaku. Версія моду з озвученням була видалена.
Багато акторів озвучення висловили власну думку в Twitter та на інших платформах:
«Я не згоден з тим, щоб мій голос перетворювали на синтетичні голосові клони без моєї абсолютної, чіткої, конкретної та незаперечної згоди. Якщо ви почуєте мій голос в одній із таких ситуацій, будь ласка, дайте мені знати, щоб я міг попросити його прибрати. Я не даю згоди на використання моїх біометричних даних для цих цілей», — написав актор Бен Діскін, який озвучував багато ігор, у тому числі The Elder Scrolls Online.
«Будь ласка, скажіть мені, якщо ви знайдете мій голосовий відбиток у таких місцях. Я не хочу, щоб люди використовуючи ШІ, щоб вкладати слова в мої вуста», — Кайл Маккарлі, актор озвучення аніме та ігор.
«Це справді тривожно. Я стежитиму за цим», — Еліза Габріеллі, яка озвучила Мавен Чорний Верес у Skyrim та брала участь у створенні десятків інших ігор.
«Якщо ви знайдете мій голос в одному з цих модів, будь ласка, дайте мені знати, щоб я міг попросити його видалити. Ніколи не буде моєї згоди на використання мого голосу для синтезу ШІ, клонування, дипфейків тощо. Це НЕ нормально», — Еббі Веффер, яка озвучила кількох персонажів у Genshin Impact та The Elder Scrolls Online: Necrom.
«Це неправильно на кожному рівні! Це тривожно. Що не так із людьми? Клонування голосу ШІ виходить з-під контролю. Не підтримуйте ШІ реплікацію голосів акторів у будь-якій формі. Будь ласка, дайте мені знати, якщо ви коли-небудь зіткнетеся з тим, що мій голос використовується таким чином, я не даю згоди», — Райан Лоутон, голос якого можна почути у Diablo 4, Hitman 2 та Return of the Obra Dinn.
Національна асоціація акторів озвучення США також висловилася з питання: «Збитки, які завдає ШІ та синтетичні голоси акторам озвучування та ігровим компаніям, є реальними та відчутними». Асоціація закликала Bethesda та ZeniMax допомогти у ситуації, оскільки актори озвучування «не мають законних повноважень боротися з цим».
Позиція NexusMods і ElevenLabs
Ресурс передбачив такий розвиток подій ще навесні. В оголошенні NexusMods від квітня 2023 року говориться:
«Вміст модів, створений ШІ, не суперечить нашим правилам, але його може бути видалено, якщо ми отримаємо скаргу, що заслуговує на довіру, від творця або правовласника».
Однак у Kotaku сумніваються, що проблему вичерпано – зараз на сайті активні спірні моди, створені штучним інтелектом.
Умови ElevenLabs вимагають, щоб люди, які використовують програмне забезпечення, отримували згоду на завантаження та клонування голосових зразків. Але за фактом це не завадило використати цю технологію для створення відвертого контенту без згоди.
Водночас багато катерів озвучення охоче допомагають у створенні модів, коли їх про це просять. Лише у квітні цього року група фанатів Hollow Knight та понад 100 акторів озвучили понад 400 персонажів. Спільнота Skyrim та інших ігор Bethesda багато років співпрацює з акторами, у тому числі й під час створення великих модів, таких як Fallout: London.
Джерела: Kotaku, GamesRadar