Alexios Mantzarlis pasó cinco años en Google, donde trabajó en inteligencia artificial generativa y precisión factual en la Búsqueda. Se ha ido, la precisión y la utilidad ya no son lo principal.
En Google, Mantzarlis creó el equipo de emergencias «red team» — centrado en los riesgos debidos a los contenidos generados por IA y dirigió el equipo responsable de la política de contenidos de Google Search sobre precisión y utilidad de los resultados. Se marchó por desacuerdos con la política de la empresa y habló de los motivos en una entrevista con Cybernews.
«Me gustaba mucho Google, y luego lo odié mucho. Han cambiado tantas cosas en cuanto a filosofía, y ahora solo ha empeorado. Cuando se produjo un gran giro hacia la inteligencia artificial, perdí toda confianza en que la calidad de la información fuera una prioridad real», dice Mantzarlis.
Actualmente trabaja en la Universidad de Cornell, donde dirige la Iniciativa de Seguridad, Confianza y Protección, que busca prevenir el daño digital a través de la educación de posgrado, las comunidades activas de práctica y la investigación. Sin embargo, allí también lo tiene difícil, debido a las medidas de la administración del presidente estadounidense Donald Trump, así como al «ambiente catastrofista general» reinante.
Mantzarlis cree que Google introduce tecnologías de inteligencia artificial «un tanto al azar». La razón, por supuesto, fue el repentino aumento de popularidad de OpenAI y ChatGPT. Él cree que Impacto de ChatGPT en las búsquedas de Google puede ser verdaderamente existencial.
«El despliegue de esta herramienta estuvo motivado principalmente por la intención de demostrar a los mercados y a los accionistas que Google puede hacerlo, más que por la idea de destacar realmente a Google como el lugar al que acudir para encontrar información útil y de alta calidad. … ChatGPT definitivamente tiene un impacto en el comportamiento de búsqueda, así que sí, es existencialmente importante para la búsqueda. Pero creo que Google «ha resuelto» este problema existencial de una manera que en realidad ha aumentado los riesgos, no disminuido».
Como escritor y experto en tecnología, Mantzarlis se ha dado cuenta de que el llamado despilfarro de inteligencia artificial (término que describe los medios de baja calidad creados por IA generativa) «nos está haciendo cada vez menos capaces de llegar a las pruebas, la verdad y los hechos» importantes.
Y Google se ha convertido en parte del problema — simplemente por su enorme escala. Aunque la tasa de error sea del 0,1%, habrá decenas o cientos de miles de errores entre 15.000 millones de resultados de búsqueda — eso es mucho.
«También es frustrante que se haya dado prioridad al uso universal de la IA en lugar de herramientas especializadas que puedan entrenarse para ser extremadamente precisas en determinadas áreas. En lugar de eso, hemos creado este mentiroso seguro de sí mismo»», afirmó Mantzarlis.
Espera que la gente vea cómo funciona realmente la búsqueda basada en IA y se decepcione. Ya hay gente en todo el mundo que está demandando a OpenAI porque ChatGPT les dice que han matado a sus propios hijos y otras cosas falsas e indignantes.
«Pero también soy un poco fatalista, porque estas son las empresas más grandes, mejor dotadas y más avanzadas del mundo – y este es el camino que han elegido. La IA generativa se nos está imponiendo colectivamente, lo queramos o no. Y, por supuesto, el ambiente actual hace aún más difícil proteger la seguridad y la calidad de la información».
Como antiguo fundador y director de la International Fact Checkers Network, una coalición mundial de proyectos de comprobación de hechos, Mantzarlis ha pasado numerosas horas en conversaciones con Google, Meta y otros representantes del sector. No es demasiado optimista sobre el futuro.
Spelling error report
The following text will be sent to our editors: