Cuando OpenAI lanzó ChatGPT a finales de 2022, los profesores expresaron su preocupación por que los estudiantes utilizaran la plataforma para hacer trampas en tareas y exámenes. Para evitarlo, numerosas empresas han desplegado herramientas para detectar contenidos generados por IA, pero ofrecen resultados fiables.
Ahora, OpenAI ha anunciado que ha desarrollado un método para detectar el uso de ChatGPT para la redacción de contenidos. Se afirma que la tecnología tiene una eficacia del 99,9% y utiliza esencialmente un sistema que puede predecir qué palabra o frase (denominada «token») vendrá a continuación en una frase. La herramienta de detección de IA altera ligeramente los tokens, que dejan una marca de agua. Esta marca de agua no puede ser reconocida por el ojo humano, pero sí por una herramienta adecuada.
Esta tecnología estaba lista para desplegarse hace aproximadamente un año, pero la empresa aún no lo ha hecho porque el proyecto suscitó reacciones encontradas internamente. Por un lado, el lanzamiento de esta herramienta podría alejar a parte de la base de usuarios de ChatGPT. Al mismo tiempo, la introducción de la herramienta significará que la empresa cumple su compromiso de transparencia.
Al mismo tiempo, un representante de OpenAI informó de su preocupación por que la herramienta pueda «afectar de forma desproporcionada a grupos para los que el inglés no es su lengua materna». No obstante, miembros clave del personal de OpenAI que apoyan el lanzamiento de la herramienta creen que la tecnología puede aportar muchos beneficios y no debería retrasarse.
Fuente: androidauthority
Spelling error report
The following text will be sent to our editors: