Сервіс для генерації зображень вже використовували для створення фейкових фото з ув’язненням Дональда Трампа.
За допомогою Midjourney, здається, можна створити зображення чого завгодно — включно із фейковим Байденом, який, усміхаючись, стріляє з кулемета, чи Трампа, що зустрічається з Папою Франциском в Овальному кабінеті. Однак на період сезону виборів у США ця можливість може зникнути, пише Bloomberg.
Головний виконавчий директор Midjourney Девід Хольц каже, що компанія «близька до того, щоб забанити фото Байдена і Трампа на наступні 12 місяців.
«Я знаю, що робити зображення з Трампом весело — я роблю зображення Трампа. Він дійсно естетично цікавий. Однак краще трохи відступити під час цих виборів. Побачимо».
Дипфейки з арештом Трампа, як і фото Папи Римського, вдягненого в пуховик Balenciaga, були створені через безплатні пробні версії Midjourney, тож згодом компанія обмежила доступ до свого генератора зображень.
На цей час в компанії діють правила, які забороняють створення «зображень публічних осіб, що вводять в оману» та «зображень подій, які потенційно можуть ввести в оману». Bloomberg все ще зміг створити модифіковані зображення Трампа, вкритого спагетті, використовуючи старішу версію системи Midjourney, однак нова версія відмовилась генерувати подібний контент.
Інші технологічні компанії також вжили заходів, щоб запобігти політичній дезінформації або принаймні полегшити її ідентифікацію. ChatGPT незабаром почне додавати водяні знаки до зображень, створених за допомогою DALL-E 3, а Meta працює над розробкою технології, яка зможе виявляти та вказувати, чи було зображення, відео чи аудіокліп згенероване за допомогою ШІ.