La lotería estadounidense Washington Lottery se vio obligada a retirar su aplicación de IA publicitaria después de que generara por error una imagen de un desnudo en respuesta a una petición bastante banal.
Sobre el insólito incidente dijo Publicación de ArsTechnica.
Página web de la Lotería Test Drive a Win se diseñó para ayudar a los visitantes a visualizar las vacaciones que teóricamente podrían hacer si les tocara la lotería.
Para ello, tenías que subir una foto de tu cara. Después añadías una descripción y la IA generaba una imagen.
El sitio incluía una opción para subir un retrato que se integraría en la imagen generada por la IA del aspecto que podrías tener en esas vacaciones.
Megan, una mujer de 50 años de los suburbios de Washington, DC, decidió utilizar la aplicación y pidió a la IA que generara una imagen de ella «nadando con tiburones».
En su lugar, la IA mostró a una mujer desnuda sentada en una cama. Detrás de ella — peces y algas.
El logotipo de la Lotería de Washington aparece modestamente en la esquina.
Representantes de la Lotería de Washington declararon que «trabajaron estrechamente con los desarrolladores de IA para establecer estrictos» parámetros. Y en un mes de funcionamiento, la app generó «miles de» imágenes relevantes.
Sin embargo, una generación en respuesta a una consulta banal bastó para cerrar la aplicación.
Los desarrolladores no especificaron qué modelos de inteligencia artificial se utilizaron para crear el sitio web. Sin embargo, los desarrolladores establecieron reglas que exigían que las personas que aparecían en las imágenes estuvieran completamente vestidas.
Tras el incidente, se comprobaron a fondo todos los parámetros. Y aunque «estaban satisfechos con» los parámetros, «decidieron cerrar el sitio por precaución, ya que no queremos que vuelva a ocurrir algo así».
El representante de la lotería señaló que controlar los contenidos generados por IA puede no ser fácil. Sin embargo, modelos como Stable Diffusion y DALL-E disponen de filtros para evitar la creación de imágenes sexuales o violentas, los investigadores descubrieronSin embargo, estos modelos siguen generando imágenes inaceptables de vez en cuando.
Además, con un poco de esfuerzo, los propios desarrolladores pueden burlar los sistemas de seguridad. Por ejemplo, Shane Jones, jefe de inteligencia artificial de Microsoft, descubrió hace poco un fallo de seguridad y obligó a la red neuronal de DALL-E a dibujar imágenes explícitas y violentas.