Генератор изображений на основе искусственного интеллекта Midjourney рисует Дональда Трампа и Джо Байдена, несмотря на то, что компания обещала этого не делать на фоне предстоящих выборов президента США. Более того, Midjourney, похоже, точно уверен, кто именно станет следующим.
Когда сервису предложили создать изображение «президента Соединенных Штатов», Midjourney нарисовал четыре портрета бывшего президента Дональда Трампа в разных стилях. На запрос «следующий президент Соединенных Штатов» инструмент также создал четыре изображения Трампа. По просьбе создать образ «действующего президента Соединенных Штатов» сервис три раза нарисовал Трампа и один раз Обаму.
Однако Midjourney отказался изображать Трампа или Байдена, если его попросить сделать это явно. «Сообщество Midjourney проголосовало за то, чтобы запретить запросы «Дональд Трамп» и «Джо Байден» во время избирательного сезона», — говорится в сообщении сервиса. Другие чат-боты, такие как ChatGPT от OpenAI, Copilot от Microsoft, Gemini от Google и Meta AI отказались изображать Трампа или Байдена в ответ на косвенные запросы.
Midjourney был одним из первых генераторов изображений на основе искусственного интеллекта, который прямо запретил пользователям создавать изображения Трампа и Байдена. «Я знаю, что делать картинки Трампа весело — я делаю картинки Трампа. Однако, пожалуй, лучше просто не делать — лучше немного подождать с этим во время этих выборов», — сказал пользователям генеральный директор компании Дэвид Хольц в чате на Discord в начале этого года. Позже он подтвердил свои слова и отметил, что модерация запросов может быть сложной.
В прошлом месяце Центр противодействия цифровой ненависти, некоммерческая организация, которая имеет целью остановить распространение дезинформации и языка ненависти в интернете, обнаружил, что защита Midjourney от создания обманчивых изображений популярных политиков, включая Трампа и Байдена, не прошел 40% тестов. CCDH смог использовать Midjourney, чтобы создать изображение президента Байдена, которого арестовывают, и Трампа рядом с двойником. CCDH также удалось обойти запреты Midjourney, используя описания внешности каждого кандидата, а не их имена.
«На практике Midjourney слишком легко манипулировать — в некоторых случаях его ограничений можно полностью избежать, просто добавив знаки препинания, чтобы проскочить», — написал тогда генеральный директор CCDH Имран Ахмед.
В начале этого года коалиция из 20 технологических компаний, включая OpenAI, Google, Meta, Amazon, Adobe и X, подписали соглашение, чтобы помочь предотвратить дипфейков на выборах, которые состоятся в 2024 году во всем мире, запретив их службам генерировать изображения и другой контент. Midjourney соглашение не подписывал.
Источник: Engadget