Durante la presentación Google I/O 2024 Además de las nuevas tecnologías de inteligencia artificial, el gigante del software ha demostrado sin querer el principal inconveniente de la IA moderna — errores, consejos incorrectos y perjudiciales.
La presentación de Google «Search in the Gemini era» mostró una nueva función — búsqueda de vídeos. Un ejemplo era un vídeo de una palanca de avance de película atascada en una cámara de cine, acompañado de una pregunta: «¿Por qué la palanca no se mueve del todo?»
La IA respondió ofreciendo una solución muy «interesante» al problema, que podría destruir el metraje.
Entonces, el modelo de lenguaje sugirió «luz» película. Cualquiera que haya utilizado una cámara de película sabe que esto es una idea terrible. Si abres la cámara mientras estás fotografiando, puedes arruinar parte o incluso toda la película debido a la luz que incidirá sobre ella. Es literalmente lo peor que se puede hacer en esta situación.
También vale la pena mencionar que no es la primera vez que los modelos lingüísticos de Google son sorprendidos distorsionando hechos. El año pasado, el chatbot Bard afirmó que el telescopio espacial «James Webb» fue el primero en fotografiar un planeta fuera del sistema solar (esto no es cierto). Anteriormente, los empleados de Google llamó a Bard «mentiroso patológico».
Y la nueva IA Gemini de Google fue «pillada» distorsionando datos históricos — en las imágenes que se negó a reproducir a los blancos donde debían estar en el contexto.
Fuente: The Verge