З розвитком штучного інтелекту відтворювати цифрові версії людей і симулювати їхні голоси стало набагато легше. Технології запросто можуть “вкласти” в уста знаменитостей чи політиків фейкові заяви (як от ніби-то “звернення Володимира Зеленського із повідомленням про капітуляцію”), або “примусити” їх робити дивні речі (наприклад, порнокліпи, в яких додають зображення відомих акторів без їхньої згоди). А нещодавно від таких технологій постраждав стендап-комік та ведучий подкасту Джо Роґан.
Відео, де фейковий Роґан розповідає про продукт-стимулятор тестостерону під назвою Alpha Grind, нині активно поширюється у TikTok. Комік ніби-то розповідає, що препарат займає високі позиції в Amazon при введенні запиту “підсилення лібідо для чоловіків”, а також фактично “збільшує розміри, там внизу”.
Deepfake scams are here, and we’re not ready. pic.twitter.com/NtPKWGCULi
— Coffeezilla (@coffeebreak_YT) February 12, 2023
Ті, хто чув ведучого раніше, могли помітити, що його голос на відео звучить дещо інакше, і є частини, де помітно проблеми з синхронізацією губ. Однак ролик все одно змусив багатьох користувачів повірити в його реальність.
Ендрю Д. Губерман, гість шоу Роґана, пізніше повідомив, що це підробка, а говорили вони про зовсім інші речі.
They created a false conversation. We never had. We were talking about something very different.
— Andrew D. Huberman, Ph.D. (@hubermanlab) February 12, 2023
Раніше інтернет-тролі почали активно використовувати ШІ-технологію імітації голосу, яку виклав у відкритий доступ стартап ElevenLabs. У соцмережах поширились аудіозаписи, що звучать дуже реалістичними голосами знаменитостей: акторка Емма Вотсон там нібито цитує “Мою боротьбу” Адольфа Гітлера, а фейковий голос політичного коментатора Бена Шарпіо робить расистські зауваження конгресвумен Александрії Окасіо-Кортес.
Джерело: Techspot