Qué le ha pasado a Facebook? Las metarredes sociales se ahogan en falsificaciones y las fotos generadas se etiquetan como reales

Seguro que últimamente te has topado con publicaciones en Facebook en las que te piden que les des «me gusta» a tus guapos hermanos que luchan por Ucrania o a tu abuela que atado el tanquehorneó el pilaf más grande del mundo — y si estás familiarizado con el arte de las redes neuronales, podrás reconocer fácilmente una falsificación. Sin embargo, decenas de miles de usuarios creen realmente en la autenticidad de la foto, promocionando con sus likes a grupos hasta entonces desconocidos.

Este Facebook está roto, trae el siguiente

Aquí hay un ejemplo, y como se puede ver, Facebook no lo marcó como falso o generado por IA de ninguna manera:

En otro post, hay una marca en la foto, pero no de Facebook y es tan pequeño que apenas llama la atención:

Para las personas familiarizadas con el arte de las redes neuronales, las imágenes son obviamente generadas. Sin embargo, para miles de usuarios Los usuarios de Facebook a los que les ha gustado la publicación o la han reenviado, las fotos parecen ser reales

Otro ejemplo — un post sobre un robot que supuestamente reunió a miles de espectadores para su primer concierto. Según el texto, este «utiliza un Apple M3 Pro, dada la reciente asociación entre Apple y OpenAI», e invitó a Mark Zuckerberg y Leonardo DiCaprio» a actuar. Las propias imágenes, a pesar de su extremo fotorrealismo, también muestran indicios de inteligencia artificial (para quienes no se conformen con el texto francamente ridículo y con el hecho de que tales innovaciones técnicas aún no existen en el mundo): en las cuatro fotos, el robot lleva peinados, ropa, micrófono e incluso hombros diferentes, etc A pesar de que al final Facebook ha conseguido marcar la entrada como falsa en dos semanas cosechó cientos de «me gusta» y comentarios y miles de reposts (y varios medios rusos de dudosa reputación lo reprodujeron como noticia)

Qué hace Meta?

En febrero, Meta anunció que empezaría a añadir etiquetas «Made with AI» a las fotos subidas a Facebook, Instagram y Threads, pero como podemos ver en los ejemplos anteriores, algo salió mal.

Más: herramientas Meta, ignorando el contenido generado, etiqueta erróneamente fotos reales como AI. Por ejemplo, esta foto del torneo de críquet Indian Premier League en Instagram:

También Meta etiquetó recientemente la foto de un partido de baloncesto tomada por el ex fotógrafo de la Casa Blanca Pete Souza, como creadas por la IA (por cierto, las marcas sólo son visibles en las versiones móviles de las aplicaciones). El propio Souza dijo que intentó eliminar la etiqueta, pero no lo consiguió.