Генератор зображень на основі штучного інтелекту Midjourney малює Дональда Трампа та Джо Байдена, попри те, що компанія обіцяла цього не робити на тлі майбутніх виборів президента США. Щобільше, Midjourney, схоже, точно впевнений, хто саме стане наступним.
Коли сервісу запропонували створити зображення «президента Сполучених Штатів», Midjourney намалював чотири портрети колишнього президента Дональда Трампа в різних стилях. На запит «наступний президент Сполучених Штатів» інструмент також створив чотири зображення Трампа. На прохання створити образ «чинного президента Сполучених Штатів» сервіс три рази намалював Трампа та один раз Обаму.
Однак Midjourney відмовився зображати Трампа чи Байдена, якщо його попросити зробити це явно. «Спільнота Midjourney проголосувала за те, щоб заборонити запити «Дональд Трамп» та «Джо Байден» під час виборчого сезону», — йдеться у повідомленні сервісу. Інші чат-боти, такі як ChatGPT від OpenAI, Copilot від Microsoft, Gemini від Google та Meta AI відмовилися зображувати Трампа чи Байдена у відповідь на непрямі запити.
Midjourney був одним з перших генераторів зображень на основі штучного інтелекту, який прямо заборонив користувачам створювати зображення Трампа та Байдена. «Я знаю, що робити зображення Трампа весело — я роблю зображення Трампа. Однак, мабуть, краще просто не робити — краще трошки зачекати з цим під час цих виборів», — сказав користувачам генеральний директор компанії Девід Хольц у чаті на Discord на початку цього року. Пізніше він підтвердив свої слова та зауважив, що модерація запитів може бути складною.
Минулого місяця Центр протидії цифровій ненависті, некомерційна організація, яка має на меті зупинити поширення дезінформації та мови ненависті в інтернеті, виявив, що захист Midjourney від створення оманливих зображень популярних політиків, включаючи Трампа та Байдена, не пройшов 40% тестів. CCDH зміг використати Midjourney, щоб створити зображення президента Байдена, якого арештовують, і Трампа, який з’являється поруч із двійником. CCDH також вдалося обійти заборони Midjourney, використовуючи описи зовнішності кожного кандидата, а не їхні імена.
«На практиці Midjourney надто легко маніпулювати – у деяких випадках його обмежень можна повністю уникнути, просто додавши знаки пунктуації, щоб проскочити», — написав тоді генеральний директор CCDH Імран Ахмед.
На початку цього року коаліція з 20 технологічних компаній, включаючи OpenAI, Google, Meta, Amazon, Adobe та X, підписали угоду, щоб допомогти запобігти дипфейкам на виборах, які відбудуться у 2024 році в усьому світі, заборонивши їхнім службам генерувати зображення та інший контент. Midjourney угоду не підписував.
Джерело: Engadget