La semana pasada, el Parlamento Europeo votó para la aprobación de la Ley de Inteligencia Artificial, que se presentó por primera vez hace tres años — de hecho, el documento ha superado la última ronda burocrática y se acerca a su aplicación oficial.
La ley entrará en vigor en torno a mayo, y los habitantes de la UE verán los primeros cambios a finales de año. Aún no se ha creado un organismo regulador que vigile el cumplimiento de las normas, y las empresas tendrán tres años para adaptarse.
¿Qué cambiará exactamente (y qué no) con la nueva legislación?
1. Algunos tipos de IA estarán prohibidos
Esto se refiere a la inteligencia artificial clasificada como «sistemas de alto riesgo» (es decir, los que suponen un alto riesgo para los derechos humanos fundamentales, como en la asistencia sanitaria, la educación y el mantenimiento del orden), así como los sistemas con «riesgo inaceptable» (por ejemplo, los sistemas de inteligencia artificial que utilizan «métodos subliminales, manipuladores o engañosos para distorsionar el comportamiento e impedir la toma de decisiones con conocimiento de causa» o explotar a las personas vulnerables).
La Ley de Inteligencia Artificial también prohíbe el uso de software de reconocimiento facial en tiempo real en lugares públicos, así como la creación de bases de datos de reconocimiento facial mediante el escaneo de Internet utilizando la tecnología Clearview AI.
Al mismo tiempo, las fuerzas del orden siguen estando autorizadas a utilizar datos biométricos confidenciales, así como software de reconocimiento facial en lugares públicos para combatir delitos graves como el terrorismo o los secuestros.
2. El uso de la IA debe hacerse «más evidente»
Las empresas tecnológicas estarán obligadas a marcar los dipshots y contenidos creados por inteligencia artificial, así como a notificar a las personas cuando interactúen con un chatbot u otro sistema de IA.
El objetivo de este requisito es combatir la desinformación, pero la investigación actual aún va por detrás de la legislación. Por ejemplo, las marcas de agua — propuestas siguen siendo una tecnología experimental que puede falsificarse fácilmente.
Sin embargo, hay algunas formas potencialmente eficaces — como la especificación C2PA basada en métodos criptográficos que permitirá a los sitios web identificar las imágenes generadas por IA y marcarlas de una forma u otra.
3. Ahora puedes quejarte de la IA
La UE creará una Oficina Europea de Inteligencia Artificial, donde los ciudadanos podrán presentar denuncias contra los sistemas de inteligencia artificial en caso de perjuicio y exigir explicaciones a las empresas.
4. Las empresas de IA serán más transparentes
Las empresas que desarrollen «modelos genéricos de IA» como modelos lingüísticos deberán crear y mantener una documentación técnica que muestre cómo han construido el modelo, si cumplen la ley de derechos de autor y publicar un resumen de qué datos de entrenamiento se han utilizado para el modelo.