Depositphotos
Las IAs de Amazon y Google cayeron en la trampa de llamar a Mein Kampf «una verdadera obra de arte».
Para los que pensaban que la inteligencia artificial ya era lo suficientemente inteligente como para no caer en obviedades «anzuelos», he aquí un nuevo ejemplo. Los usuarios se dieron cuenta de que Google mostraba reseñas positivas de Mein Kampf al realizar búsquedas, concretamente las generadas por Amazon.
El problema es que la IA intentó resumir las reseñas generales de los lectores, por lo que perdió completamente el contexto. Las reseñas hablaban sobre todo de la calidad de la impresión, la facilidad de lectura o la importancia histórica del libro — no de su contenido ideológico. Como la IA no entiende de matices, dio un resultado general: «obra de arte».
«Los clientes encuentran el libro fácil de leer e interesante. Aprecian las frases perspicaces e inteligentes. La impresión es bella y monocromática. Los lectores describen el libro como una auténtica obra de arte. Sin embargo, algunos consideran que el contenido es aburrido y monótono. Las opiniones varían en cuanto a la intensidad del contenido, la precisión histórica y la relación calidad-precio», — dice la IA de Amazon basándose en 2067 reseñas
Google hizo la situación aún más interesante cuando añadió este fragmento a su función AI Overviews (que está diseñada para proporcionar rápidamente «respuestas útiles» a las consultas). Como resultado, Google anunció literalmente Mein Kampf como un libro con «refranes» inteligentes.
Lo más probable es que la IA de Amazon sacara frases de contexto en las reseñas. Esto dio al usuario una reseña vacía típica de la IA, en la que «se echa mucha agua». Si un humano hubiera leído las reseñas por separado, se habría dado cuenta de que el reseñador no apoyaba necesariamente las ideas del libro. Pero la IA lo recopiló todo y elaboró un resumen del estilo de «lectura brillante».
Cuando los periodistas se pusieron en contacto con Google en busca de comentarios, la empresa desactivó rápidamente la retroalimentación de IA para esta búsqueda. Amazon no ha comentado la situación. El caso es un buen recordatorio de que la IA no entiende el contexto y puede dar respuestas abiertamente ambiguas. La inteligencia artificial no puede sustituir al pensamiento crítico, así que no tiene sentido fiarse de ninguna de sus respuestas.
En 2020, Amazon también prohibió el libro en sus plataformas durante un tiempo, pero luego volvió a ponerlo a la venta. Al mismo tiempo, las ventas se hacen sin explicar el contexto, y esto da pie a situaciones extrañas con las reseñas.
El ejemplo de Mein Kampf no fue el primer «pinchazo» Google AI Overviews. Anteriormente, la función aconsejaba a la gente comer pegamento, tragar una piedra al día y usar juguetes sexuales para calmar a los niños. También recientemente Google lanza alertas «falsas» de terremotosen una región donde casi no existen. También Gemini mostraba imágenes incorrectas de personajes y grupos históricos mediante una política de diversidad. Un problema similar se planteó a Apple Intelligence, que publicó noticias críticamente inexactas
Fuente: 404 Media