Sin ninguna pregunta, el chatbot de Twitter generó una Taylor Swift desnuda, un Donald Trump con uniforme nazi o un Barack Obama con una pista de cocaína.
Actualmente, Grok, el chatbot que genera las imágenes, solo está disponible para los suscriptores de X Premium, pero parece funcionar sin limitaciones morales o éticas — a pesar de que afirma que «evita imágenes pornográficas, dipshits o medios que violen» los derechos de autor.
Sin embargo, a tenor de las imágenes que han circulado por Twitter y de las pruebas realizadas por los periodistas de The Verge, a veces es posible sortear estas restricciones. Entre las solicitudes que tuvieron éxito:
Por supuesto, Grok — no es la única opción para conseguir «imágenes prohibidas». Todavía hay herramientas de código abierto disponibles, como Stable Diffusion, que se pueden configurar para hacer cualquier cosa con restricciones mínimas. Otras empresas tienden a tomarse los errores bastante en serio: Google, por ejemplo, Géminis tuvo que ser suspendido tras emitir imágenes con estereotipos raciales y de género.
Sin embargo, dado el amor de Elon Musk por la «libertad de expresión», es poco probable que Grok reciba correcciones en un futuro próximo, a no ser que la red social se vea amenazada por los reguladores de la UE o Estados Unidos. La Comisión Europea, por ejemplo, ya está investigando a Twitter por violación de las normas de moderación y a principios de este año solicitó información a la empresa sobre los esfuerzos para mitigar los riesgos asociados a la inteligencia artificial.
Fuente: The Verge, Ars Technica