La IA de Call of Duty reduce un 43% la toxicidad del chat

Ahora, en lugar de «git gud» en Call of Duty, tendrás que escribir «mejora tus habilidades de juego, por favor».

Activision Blizzard dijo ha informado de que, desde principios de año, el número de casos de comportamiento tóxico en el chat de voz de Call of Duty ha disminuido en un 43%. Esto se consiguió gracias a la introducción de un sistema de moderación ToxMod basado en inteligencia artificial, que los desarrolladores presentaron junto con el lanzamiento de Call of Duty: Modern Warfare III en noviembre del año pasado.

ToxMod analiza las transcripciones de texto de los chats de voz e identifica palabras clave en función de diversos factores. El sistema distingue entre bromas ordinarias e insultos rastreando las reacciones a los comentarios y comprendiendo las emociones de los jugadores. ToxMod también calcula la edad y el sexo de los interlocutores para comprender mejor el contexto.

El sistema no puede bloquear usuarios por sí solo, pero marca rápidamente las infracciones para que los moderadores humanos las comprueben. Activision decide si avisa al jugador o lo silencia. El bloqueo solo se aplica tras infracciones repetidas. El número de «infractores reincidentes» en Modern Warfare III y Call of Duty: Warzone disminuyó un 67% tras la mejora del sistema en junio de 2024.

Actualmente, ToxMod es compatible en todas las regiones excepto en Asia. El sistema modera el chat de voz en inglés, español y portugués. Con el lanzamiento de Black Ops 6 los desarrolladores añadirán soporte para francés y alemán.

En agosto, ampliamos la compatibilidad lingüística para la moderación de texto y la verificación de apodos de 14 a 20 idiomas. Community Sift es el socio de Call of Duty en la moderación de texto. Desde el lanzamiento de Modern Warfare III, el sistema ha bloqueado 45 millones de mensajes.

El uso de la inteligencia artificial para moderar el comportamiento de los jugadores es menos controvertido que su aplicación para crear recursos de juego. A finales del año pasado, se lanzaron skins para Modern Warfare III, generados por la IA. En medio de los despidos masivos en la industria, algunos temen que los editores intenten sustituir a los artistas con modelos de inteligencia artificial.

Fuente: Techspot