Seguro que últimamente te has topado con publicaciones en Facebook en las que te piden que les des «me gusta» a tus guapos hermanos que luchan por Ucrania o a tu abuela que atado el tanquehorneó el pilaf más grande del mundo — y si estás familiarizado con el arte de las redes neuronales, podrás reconocer fácilmente una falsificación. Sin embargo, decenas de miles de usuarios creen realmente en la autenticidad de la foto, promocionando con sus likes a grupos hasta entonces desconocidos.
Aquí hay un ejemplo, y como se puede ver, Facebook no lo marcó como falso o generado por IA de ninguna manera:
En otro post, hay una marca en la foto, pero no de Facebook y es tan pequeño que apenas llama la atención:
Para las personas familiarizadas con el arte de las redes neuronales, las imágenes son obviamente generadas. Sin embargo, para miles de usuarios Los usuarios de Facebook a los que les ha gustado la publicación o la han reenviado, las fotos parecen ser reales
Otro ejemplo — un post sobre un robot que supuestamente reunió a miles de espectadores para su primer concierto. Según el texto, este «utiliza un Apple M3 Pro, dada la reciente asociación entre Apple y OpenAI», e invitó a Mark Zuckerberg y Leonardo DiCaprio» a actuar. Las propias imágenes, a pesar de su extremo fotorrealismo, también muestran indicios de inteligencia artificial (para quienes no se conformen con el texto francamente ridículo y con el hecho de que tales innovaciones técnicas aún no existen en el mundo): en las cuatro fotos, el robot lleva peinados, ropa, micrófono e incluso hombros diferentes, etc A pesar de que al final Facebook ha conseguido marcar la entrada como falsa en dos semanas cosechó cientos de «me gusta» y comentarios y miles de reposts (y varios medios rusos de dudosa reputación lo reprodujeron como noticia)
En febrero, Meta anunció que empezaría a añadir etiquetas «Made with AI» a las fotos subidas a Facebook, Instagram y Threads, pero como podemos ver en los ejemplos anteriores, algo salió mal.
Más: herramientas Meta, ignorando el contenido generado, etiqueta erróneamente fotos reales como AI. Por ejemplo, esta foto del torneo de críquet Indian Premier League en Instagram:
También Meta etiquetó recientemente la foto de un partido de baloncesto tomada por el ex fotógrafo de la Casa Blanca Pete Souza, como creadas por la IA (por cierto, las marcas sólo son visibles en las versiones móviles de las aplicaciones). El propio Souza dijo que intentó eliminar la etiqueta, pero no lo consiguió.
Según PetaPixel, Los algoritmos de Instagram pueden marcar imágenes como generadas cuando los fotógrafos utilizan herramientas de IA generativa como Generative Fill de Adobe para eliminar incluso los objetos más pequeños. La publicación lo comprobó por sí misma utilizando la herramienta Generative Fill de Photoshop para eliminar una mancha de una imagen, que Meta marcó como generada por IA en Instagram. Sorprendentemente, la etiqueta «Made with AI» no se añadió cuando PetaPixel volvió a cargar el archivo en Photoshop y luego lo guardó tras copiarlo y pegarlo en un documento borrador.
Parece que el proceso de identificación de IA en Instagram y Facebook funciona de formas diferentes, pero ambas no son perfectas. Dado que Meta lleva mucho tiempo teniendo problemas con la moderación de contenidos que no ha resuelto, es posible que se produzca una situación similar con la inteligencia artificial. Pero no te apresures a borrar a tus padres de Facebook (es poco probable que otras redes sociales funcionen mejor), tómate tu tiempo para aprender a reconocer los contenidos falsos o artificiales