Uno de los fundadores de Instagram, Kevin Systrom, cree que las empresas de IA se preocupan sobre todo por aumentar la actividad de los chatbot y no por la utilidad de las respuestas.
En opinión de Systrom, que expresó en Startup Grind, los bots molestan deliberadamente a los usuarios con preguntas adicionales en lugar de proporcionar información realmente útil. Califica esta táctica de perjudicial y la compara con las acciones de redes sociales destinadas a una expansión agresiva.
«Puedes ver cómo algunas de estas empresas se están metiendo en la madriguera de conejo en la que se han metido todas las empresas de consumo para intentar aumentar el engagement. Cada vez que hago una pregunta, la acompañan de otra pequeña al final para ver si pueden sacarme otro».
Systrom sugirió que este comportamiento no es un error, sino una característica intencional desarrollada por las empresas de IA para «inflar» métricas como el tiempo dedicado y la actividad de los usuarios diariamente. Está convencido de que las empresas deberían «proporcionar intencionadamente» respuestas de alta calidad en lugar de «hilar» de la manera más fácil posible. Al mismo tiempo, Sуstrom no nombró a ninguna empresa en concreto.
A petición del sitio web TechCrunch en OpenAI comentaron esta opinión. Los creadores de ChatGPT señalaron especificaciones de su modelo, que afirma que a menudo no dispone de toda la información necesaria para ofrecer una buena respuesta y puede requerir aclaraciones o detalles adicionales del usuario. Al mismo tiempo, si la pregunta no es demasiado vaga o compleja, la inteligencia artificial debería «intentar cumplir la consulta e informar al usuario de que podría serle más útil con determinada información».
Recientemente, Alexios Mantzarlis, antiguo jefe de equipos de desarrollo de IA en Google, habló de distorsión de los hechos por motores de búsqueda basados en inteligencia artificial. Cree que la veracidad de la información ya no es una prioridad para las grandes empresas y que, en lugar de modelos universales, sería mejor dar preferencia a herramientas de IA con un alcance limitado que produzcan resultados precisos.
Spelling error report
The following text will be sent to our editors: