El nuevo generador de imágenes ChatGPT crea cheques falsos increíblemente realistas

El mes pasado OpenAI añade a GPT-4o una generación de imágenes mejorada para crear imágenes realistas. Entre otras cosas, se ha mejorado notablemente la generación de texto sobre imágenes. La gente ya ha empezado a utilizar esta función para crear recibos falsos de restaurantes, lo que podría convertirse en una herramienta más del ya amplio arsenal de deepfakes de IA que utilizan los estafadores.

Didi Das, un inversor y usuario activo de las redes sociales, publicó una foto en X de un recibo falso de un restaurante de carne real en San Francisco, que según él fue creado con 4o.

I think in the original image the letters are too perfect and they don’t bend with the paper. They look like hovering above the paper. Here is my attempt to make it more realistic. Let me know what you think. pic.twitter.com/EixRSHubeY

— Michael Gofman (@michaelgofman) March 29, 2025

Otros usuarios también han sido capaces de reproducir resultados similares, incluso añadiendo manchas de comida o bebida para que la falsificación parezca aún más realista.

El ejemplo más plausible procede de Francia. Un usuario de LinkedIn publicó un recibo arrugado generado por IA de una cadena de restaurantes local.

TechCrunch también probó 4o y pudo crear un recibo falso de un Applebee’s de San Francisco. Aunque en este caso, había varias señales obvias de que el recibo era falso. En primer lugar, el importe total utiliza una coma en lugar de un punto. Segundo, las matemáticas no cuadraban. Los modelos de IA siguen teniendo problemas con los cálculos básicos, así que esto no fue una sorpresa.

Sin embargo, no sería difícil para los estafadores arreglar algunos números con un editor de imágenes o con consultas más precisas a la IA.

Obviamente, la posibilidad de crear fácilmente cheques falsos abre enormes oportunidades para el fraude. No es difícil imaginar cómo podrían utilizarse estas tecnologías para reclamar gastos falsamente.

Taya Christianson, portavoz de OpenAI, afirma que todas las imágenes creadas por ChatGPT contienen metadatos que indican su origen. También añadió que OpenAI toma medidas en caso de infracción de las normas de uso y aprende constantemente del uso en el mundo real y de los comentarios de los usuarios.