Un profesor de educación física y ex director deportivo de un instituto de Pikesville (Maryland, EE.UU.) fue detenido y acusado de utilizar inteligencia artificial para clonar su voz e inculpar al director del centro.
La policía del condado de Baltimore cree que una grabación que circuló por las redes sociales en enero en la que el director del instituto de Pikesville, Eric Eisvert, hacía comentarios racistas y antisemitas es falsa. Los expertos dijeron a The Baltimore Banner y a la policía que la grabación, que llevó brevemente a la suspensión de Eisvert, tiene un tono «plano, sonidos de fondo extremadamente claros, y sin sonidos de respiración consistentes o pausas».
La policía del condado de Baltimore rastreó la grabación hasta Dajon Darien, ex director deportivo de la escuela, cuyo nombre también se mencionaba en la grabación de audio. Desde los ordenadores de la escuela, supuestamente «accedió a herramientas de OpenAI y servicios de chat de Microsoft Bing». También estaba vinculado al audio publicado a través de una dirección de correo electrónico y un número de teléfono de recuperación correspondiente. No se ha informado de qué plataforma de voz de IA utilizó supuestamente Darien.
La policía detuvo a Darien en el aeropuerto y emitió un comunicado: «Se cree que el Sr. Darien, que era director deportivo del instituto de Pikesville, realizó la grabación para tomar represalias contra el Sr. Acevedt, que en ese momento estaba investigando un posible uso indebido de fondos escolares».
El sospechoso fue puesto en libertad tras pagar una fianza. Se enfrentaba a cargos como robo, perturbación del funcionamiento de la escuela, represalias contra un testigo y acoso.
Con este telón de fondo, la decisión de OpenAI de no hacer su Plataforma de inteligencia artificial para convertir texto en voz Voice Engine. El servicio, que sólo requiere una grabación de audio de 15 minutos para clonar la voz de alguien, sólo está disponible para un número limitado de investigadores debido a los riesgos potenciales que entraña.
Fuente: The Baltimore Banner