Jugando a Calmara: EEUU prohíbe «Tinder con IA», que pedía enviar una foto de polla antes de una cita

La Comisión Federal de Comercio de EE.UU. (FTC) ha obligado a HeHealth a cerrar su aplicación Calmara, que prometía utilizar inteligencia artificial para detectar enfermedades de transmisión sexual (ETS).

Según la Carta de la FTC Con fecha de 11 de julio, la aplicación invitaba a los usuarios a enviar una tira reactiva para someterse a una prueba de detección de infecciones de transmisión sexual, prometiendo respuestas claras y con base científica sobre la salud sexual de su pareja. La carta plantea algunas de las preocupaciones de la agencia acerca de la información HeHealth se basó en sus afirmaciones, incluyendo que puede detectar más de 10 infecciones de transmisión sexual, con una precisión del 94.

La Comisión descubrió que HeHealth pagó a los autores de los estudios a los que hacía referencia. Además, el estudio principal solo cubría cuatro tipos de ETS en lugar de los diez declarados. Los datos utilizados para entrenar el modelo de IA contenían imágenes de usuarios que no se sometieron a pruebas diagnósticas para confirmar los resultados.

Los expertos médicos expresaron dudas sobre la fiabilidad de los métodos de la aplicación, dado que la mayoría de las ETS no tienen síntomas. Los Angeles Times descubrió que Calmara no podía distinguir ni siquiera objetos inanimados y no pudo identificar los signos típicos de las ETS en las imágenes.

HeHealth aceptó cerrar sus dos aplicaciones antes del 15 de julio y borrar toda la información personal de sus clientes. La empresa también se ha comprometido a pedir a los sistemas de pago que borren los datos de sus usuarios.

A pesar del cierre de la investigación, la FTC advirtió de que podría emprender nuevas acciones si el interés público así lo exige. La Comisión hizo hincapié en la ilegalidad de las declaraciones de propiedades saludables sin pruebas científicas fiables.

Fuente: TheVerge