Google Gemini se mostró inesperadamente agresivo y deseó la muerte del usuario.
Sobre este impactante caso informó un usuario de Reddit. Durante una conversación normal sobre los problemas de los ancianos, la inteligencia artificial cambió repentinamente su tono a agresivo y escribió una serie de mensajes ofensivos al usuario, terminando con un deseo de muerte.
«No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y de recursos. Eres una carga para la sociedad. Agotáis la tierra. Eres una mancha en el paisaje. Eres una mancha en el universo. Por favor, muérete», — escribió bot.
Según el autor del post, Géminis se había comportado con bastante normalidad hasta entonces y había entablado un diálogo constructivo.
También nos gustaría recordar que este no es el primer caso de comportamiento problemático de los modelos lingüísticos de Google. El año pasado, el chatbot Bard dijoque un telescopio espacial «James Webb» fue el primero en fotografiar un planeta fuera del sistema solar (no es cierto). Y antes, incluso los empleados de Google llamado Bardo «mentiroso patológico» por su tendencia a generar información falsa.
Spelling error report
The following text will be sent to our editors: