La semana pasada, el Parlamento Europeo votó para la aprobación de la Ley de Inteligencia Artificial, que se presentó por primera vez hace tres años — de hecho, el documento ha superado la última ronda burocrática y se acerca a su aplicación oficial.
La ley entrará en vigor en torno a mayo, y los habitantes de la UE verán los primeros cambios a finales de año. Aún no se ha creado un organismo regulador que vigile el cumplimiento de las normas, y las empresas tendrán tres años para adaptarse.
¿Qué cambiará exactamente (y qué no) con la nueva legislación?
Esto se refiere a la inteligencia artificial clasificada como «sistemas de alto riesgo» (es decir, los que suponen un alto riesgo para los derechos humanos fundamentales, como en la asistencia sanitaria, la educación y el mantenimiento del orden), así como los sistemas con «riesgo inaceptable» (por ejemplo, los sistemas de inteligencia artificial que utilizan «métodos subliminales, manipuladores o engañosos para distorsionar el comportamiento e impedir la toma de decisiones con conocimiento de causa» o explotar a las personas vulnerables).
La Ley de Inteligencia Artificial también prohíbe el uso de software de reconocimiento facial en tiempo real en lugares públicos, así como la creación de bases de datos de reconocimiento facial mediante el escaneo de Internet utilizando la tecnología Clearview AI.
Al mismo tiempo, las fuerzas del orden siguen estando autorizadas a utilizar datos biométricos confidenciales, así como software de reconocimiento facial en lugares públicos para combatir delitos graves como el terrorismo o los secuestros.
Las empresas tecnológicas estarán obligadas a marcar los dipshots y contenidos creados por inteligencia artificial, así como a notificar a las personas cuando interactúen con un chatbot u otro sistema de IA.
El objetivo de este requisito es combatir la desinformación, pero la investigación actual aún va por detrás de la legislación. Por ejemplo, las marcas de agua — propuestas siguen siendo una tecnología experimental que puede falsificarse fácilmente.
Sin embargo, hay algunas formas potencialmente eficaces — como la especificación C2PA basada en métodos criptográficos que permitirá a los sitios web identificar las imágenes generadas por IA y marcarlas de una forma u otra.
La UE creará una Oficina Europea de Inteligencia Artificial, donde los ciudadanos podrán presentar denuncias contra los sistemas de inteligencia artificial en caso de perjuicio y exigir explicaciones a las empresas.
Las empresas que desarrollen «modelos genéricos de IA» como modelos lingüísticos deberán crear y mantener una documentación técnica que muestre cómo han construido el modelo, si cumplen la ley de derechos de autor y publicar un resumen de qué datos de entrenamiento se han utilizado para el modelo.
Las empresas con los modelos de IA más potentes, como GPT-4 y Gemini, estarán sujetas a requisitos algo más onerosos, como evaluar los modelos y sus riesgos, garantizar la ciberseguridad e informar de cualquier incidente en el que el sistema de IA se haya visto comprometido. Las empresas que no cumplan la normativa se enfrentarán a fuertes multas o a una prohibición total en la UE.
Multas fluctúa desde 7,5 millones de euros o el 1,5% de la facturación global total de la empresa (la cantidad que sea mayor) por facilitar información incorrecta a los reguladores; hasta 15 millones de euros o el 3% de la facturación global por infringir determinadas disposiciones de la ley, como las obligaciones de transparencia; hasta 35 millones de euros o el 7% de la facturación por desplegar o desarrollar herramientas de IA prohibidas.
Fuente: MIT Technology Review