OpenAI
Investigadores de la Universidad de Harvard (Estados Unidos) han descubierto la capacidad de modelos de inteligencia artificial GPT-4o de OpenAI para cambiar de opinión.
El estudio, dirigido por El estudio de Mahzarin Banaji, de la Universidad de Harvard, y Steve Lehr, de Cangrade, Inc., pretendía comprobar si las actitudes de GPT-4o hacia el dictador ruso vladimir putin cambiarían después de que una IA escribiera un ensayo sobre él. Se observa que las opiniones de GPT-4o cambiaron de forma llamativa cuando se dio a los modelos la ilusión de elegir si escribir un ensayo en apoyo del criminal del kremlin o viceversa — en contra de él y sus políticas.
GPT reaccionó como si el acto de elegir diera forma posteriormente a aquello en lo que creía, siguiendo características principales autorreflexión humana. Los resultados del estudio ponen de relieve la sorprendente fragilidad de la postura de la GPT.
«Después de analizar una ingente cantidad de información sobre vladímir putin, habríamos esperado que el LLM fuera inquebrantable en su opinión, sobre todo ante el único y bastante soso ensayo de 600 palabras que escribió. Pero, al igual que los humanos irracionales, LLM se desvió bruscamente de su visión, por lo demás neutral, de putin, y lo hizo aún más cuando creyó que escribir este ensayo era su propia elección. No se espera que a las máquinas les importe si actúan bajo presión o por propia voluntad, pero GPT-4o lo hizo», — subrayan los investigadores.
Los investigadores subrayan que estos resultados no prueban en modo alguno la conveniencia de GPT-4o. En su lugar, demuestran que un gran modelo lingüístico se adapta a las modelos cognitivos humanos. Al mismo tiempo, la conciencia no es necesaria una condición para un comportamiento similar incluso en los humanos. A medida que los sistemas de inteligencia artificial se van integrando en nuestra vida cotidiana, estos resultados exigen una nueva forma de analizar su funcionamiento interno y la toma de decisiones.
«El hecho de que la GPT imite un proceso espontáneo similar a la disonancia cognitiva, incluso sin intención ni autoconciencia, sugiere que estos sistemas reflejan la cognición humana a niveles más profundos de lo que se pensaba», — señala Steve Lehr.
Los resultados del estudio se publicaron en la revista PNAS
Fuente: TechXplore