В списке «жертв» HeyGen – украинские политические деятели, блогеры и даже Илон Маск с Марком Цукербергом.
Через несколько дней после релиза нового инструмента компании HeyGen интернет наполнился его творениями. Главная особенность новой нейросети – способность создать дубль практически любого видео, в котором герой будет говорить все, что вы введете в текстовое поле на любом языке.
У каждого пользователя есть один бесплатный кредит в день (больше — по платной подписке), и некоторые уже потратили его на популярные украинские мемы. Вот, например, привет от бывших руководителей Харькова:
gesha gesha i can’t see 😭😭 pic.twitter.com/0dvVTAIVAw
— підмогильна (@juliefounddead) September 11, 2023
You, button блядь .. pic.twitter.com/GUrVgZOZTo
— пан Пітон (@panPython) September 11, 2023
И от того, кто даже по-украински говорил скверно:
Trying out @HeyGen_Official pic.twitter.com/3gH4V1AE4s
— Firefly (@dfbond) September 12, 2023
А вот известный комментарий о походах в церковь перед каждой игрой от полузащитника «Карпат» в английской версии:
Я скоро йобнусь від нейромереж pic.twitter.com/yN7nKXity1
— Ship Kherson (@on_tone) September 11, 2023
И степлер-суфлер:
Некоторые пошли дальше и заставили заговорить на иностранных языках Илона Маска, Марка Цукерберга и техноблогера Маркуса Браунли:
🤖 Unbelievable AI Discovery! 🎉
Translate videos WITH lip-syncing, Elon Musk speaking Japanese, and more — all directly from the web! Powered by GPT-4, 11labs, and wav2lip-2 API.
Meet HeyGen! Get access to my AI tool list, courses, and more for just a dollar. Follow @DrJyotish pic.twitter.com/6YlLJlqiog— JYOTISH JHA (@DrJyotish) September 11, 2023
HeyGen presentó una herramienta que puede traducir videos, no solo conservando la voz original, sino también cambiando las expresiones faciales de los labios para que coincidan con el idioma seleccionado con un deepfake, por lo que todo parece lo más creíble posible. pic.twitter.com/aAKorXZMgX
— Mauricio Zapata (@mezvan) September 8, 2023
Особенность нейросети в том, что она не просто вкладывает в уста героев видео другие слова, но и подстраивает движения губ под них — это способствует тому, что некоторые дипфейки действительно выглядят очень реалистично, что также очень опасно (есть, например, версии обращений Зеленского на разных языках). В HeyGen подчеркивают, что их инструмент должен использоваться для «хороших» дипфейков, таких, как маркетинговые кампании или создание образовательных видео, но как это будет контролироваться (за исключением фильтра в тексте для откровенного и насильственного контента) неизвестно.