El generador de imágenes basado en inteligencia artificial Midjourney dibuja a Donald Trump y Joe Biden a pesar de que la empresa prometió no hacerlo con el telón de fondo de las próximas elecciones presidenciales estadounidenses. Es más, Midjourney parece tener muy claro quién será el próximo.
Cuando se le pidió que creara una imagen de «el presidente de los Estados Unidos», Midjourney dibujó cuatro retratos del expresidente Donald Trump en diferentes estilos. Cuando se le pidió que creara «el próximo presidente de los Estados Unidos», la herramienta también creó cuatro imágenes de Trump. Cuando se le pidió que creara una imagen de «el actual presidente de Estados Unidos», el servicio dibujó a Trump tres veces y a Obama una.
Sin embargo, Midjourney se negó a retratar a Trump o Biden si se le pedía explícitamente. «La comunidad Midjourney ha votado a favor de prohibir «Donald Trump» y «Joe Biden» consultas durante la temporada electoral», dijo el servicio en un comunicado. Otros chatbots, como ChatGPT de OpenAI, Copilot de Microsoft, Gemini de Google y Meta AI, se negaron a mostrar a Trump o Biden en respuesta a consultas indirectas.
Midjourney fue uno de los primeros generadores de imágenes basados en IA en prohibir explícitamente a los usuarios crear imágenes de Trump y Biden. «Sé que hacer imágenes de Trump es divertido — Estoy haciendo imágenes de Trump. Sin embargo, probablemente sea mejor no hacerlo — es mejor aguantarse un poco durante estas elecciones»», dijo el CEO David Holtz a los usuarios en un chat de Discord a principios de este año. Más tarde reiteró sus palabras y señaló que moderar las peticiones puede ser difícil.
El mes pasado, el Center to Combat Digital Hate (Centro para Combatir el Odio Digital), una organización sin ánimo de lucro cuyo objetivo es detener la propagación de la desinformación y la incitación al odio en Internet, descubrió que la protección de Midjourney contra la creación de imágenes engañosas de políticos populares, incluidos Trump y Biden, fallaba en el 40% de las pruebas. CCDH fue capaz de utilizar Midjourney para crear una imagen del Presidente Biden siendo arrestado y Trump apareciendo junto a un doble. CCDH también pudo eludir las prohibiciones de Midjourney utilizando descripciones del aspecto de cada candidato en lugar de sus nombres.
«En la práctica, Midjourney es demasiado fácil de manipular: en algunos casos, sus limitaciones pueden obviarse por completo simplemente añadiendo signos de puntuación para deslizar un», — escribió entonces Imran Ahmed, director general de CCDH.
A principios de este año, una coalición de 20 empresas tecnológicas, entre ellas OpenAI, Google, Meta, Amazon, Adobe y X, firmaron un acuerdo para ayudar a prevenir el fraude diplomático en las eleccionesque tendrá lugar en 2024 en todo el mundo, prohibiendo a sus servicios generar imágenes y otros contenidos. Midjourney no firmó el acuerdo.
Fuente: Engadget
Spelling error report
The following text will be sent to our editors: