La inteligencia artificial generativa de Meta tiende a crear imágenes de personas de la misma raza, aunque especifiques explícitamente lo contrario. Por ejemplo, para las consultas «amigo asiático y caucásico» o «esposa asiática y blanca», el generador de imágenes crea imágenes de personas de la misma raza.
Este problema fue descubierto por The Verge y posteriormente confirmado por Engadget. Durante las pruebas del generador de imágenes web Meta, las consultas «asiático con novia blanca» o «asiático con esposa blanca» generaban imágenes de parejas asiáticas. Cuando se le preguntó por «un grupo diverso de personas», la herramienta Meta AI creó una cuadrícula de nueve caras de personas blancas y una persona de otro color. Hubo algunos casos en los que produjo un resultado que reflejaba correctamente la consulta, pero en la mayoría no lo hizo.
Según The Verge, hay otros signos más «sutiles» de sesgo de Meta AI. Por ejemplo, las imágenes generadas muestran una tendencia a mostrar a los hombres asiáticos como mayores y a las mujeres asiáticas como más jóvenes. El generador de imágenes también añadía a veces «ropa cultural especial» aunque no formara parte del texto introducido.
No está claro por qué la IA generativa de Meta se resiste a las consultas directas. La empresa aún no ha comentado la situación, pero anteriormente describió Meta AI como «beta», por lo que puede funcionar con errores.
Este no es el primer modelo de IA generativa que crea extrañamente imágenes de personas. Hace poco Google suspende la posibilidad de crear imágenes humanas con Gemini tras los fallos de diversidad. Google explicó posteriormente que sus salvaguardias internas no tenían en cuenta las situaciones en las que los distintos resultados eran incoherentes.
Fuente: Engadget