El mes pasado OpenAI añade a GPT-4o una generación de imágenes mejorada para crear imágenes realistas. Entre otras cosas, se ha mejorado notablemente la generación de texto sobre imágenes. La gente ya ha empezado a utilizar esta función para crear recibos falsos de restaurantes, lo que podría convertirse en una herramienta más del ya amplio arsenal de deepfakes de IA que utilizan los estafadores.
Didi Das, un inversor y usuario activo de las redes sociales, publicó una foto en X de un recibo falso de un restaurante de carne real en San Francisco, que según él fue creado con 4o.
Otros usuarios también han sido capaces de reproducir resultados similares, incluso añadiendo manchas de comida o bebida para que la falsificación parezca aún más realista.
El ejemplo más plausible procede de Francia. Un usuario de LinkedIn publicó un recibo arrugado generado por IA de una cadena de restaurantes local.
TechCrunch también probó 4o y pudo crear un recibo falso de un Applebee’s de San Francisco. Aunque en este caso, había varias señales obvias de que el recibo era falso. En primer lugar, el importe total utiliza una coma en lugar de un punto. Segundo, las matemáticas no cuadraban. Los modelos de IA siguen teniendo problemas con los cálculos básicos, así que esto no fue una sorpresa.
Sin embargo, no sería difícil para los estafadores arreglar algunos números con un editor de imágenes o con consultas más precisas a la IA.
Obviamente, la posibilidad de crear fácilmente cheques falsos abre enormes oportunidades para el fraude. No es difícil imaginar cómo podrían utilizarse estas tecnologías para reclamar gastos falsamente.
Taya Christianson, portavoz de OpenAI, afirma que todas las imágenes creadas por ChatGPT contienen metadatos que indican su origen. También añadió que OpenAI toma medidas en caso de infracción de las normas de uso y aprende constantemente del uso en el mundo real y de los comentarios de los usuarios.
A la pregunta de por qué ChatGPT permite generar recibos falsos y si esto está en consonancia con la política de OpenAI de no permitir el fraude, Christianson respondió que el objetivo de OpenAI es dar a los usuarios la mayor libertad creativa posible. Al mismo tiempo, los recibos falsos pueden utilizarse no sólo para cometer fraudes, sino también para impartir educación financiera, crear arte original y publicitar productos.
Fuente: TechCrunch