La primera ley mundial sobre IA busca equilibrar innovación y derechos humanos en la Unión Europea
Este miércoles, el Parlamento Europeo toma una decisión histórica al votar sobre la primera ley de inteligencia artificial (IA) a nivel mundial, un proyecto legislativo que promete establecer un marco ético y regulatorio para el desarrollo y uso de la IA. Originada en una propuesta de la Comisión Europea en 2021, esta ley tiene como objetivo fomentar la excelencia y la innovación tecnológica, al tiempo que protege los derechos fundamentales de los ciudadanos.
La normativa, que busca ser un referente internacional, pretende abordar los desafíos y riesgos que la IA presenta para la salud, la seguridad y los derechos fundamentales, mediante la clasificación de los sistemas de IA en cuatro niveles de riesgo: mínimo, limitado, alto y inadmisible. Esta diferenciación busca asegurar que mientras algunos sistemas puedan operar con libertad mínima de restricciones, aquellos con potenciales impactos negativos significativos sobre la sociedad sean sometidos a rigurosas obligaciones de transparencia y seguridad.
En particular, la ley enfatiza la prohibición de ciertas aplicaciones de IA que se consideran un riesgo inadmisible para los derechos humanos, como los sistemas de puntuación social y la vigilancia masiva. Además, introduce controles estrictos sobre el uso de datos biométricos y la identificación facial, resaltando la necesidad de evitar errores que podrían afectar negativamente a individuos inocentes.
Uno de los aspectos más novedosos de la propuesta es su enfoque en los «modelos de inteligencia artificial de uso general» de gran capacidad, estableciendo un umbral de supervisión basado en su potencia de cálculo, para garantizar que sean seguros y respeten los principios éticos.
La ley también aborda la problemática de los sesgos en la IA, estableciendo requisitos para el entrenamiento de sistemas de alto riesgo con datos representativos, y asegura la trazabilidad y auditabilidad de estos procesos. Además, reconoce la importancia de respetar los derechos de autor y fomenta la especificación de los contenidos generados por IA.
Con un fuerte enfoque en la sostenibilidad ambiental, la propuesta legislativa subraya la necesidad de evaluar y mejorar la eficiencia energética de los sistemas de IA, integrando consideraciones ambientales en el diseño y despliegue de tecnologías inteligentes.
Tras su aprobación, la ley se aplicará gradualmente, con una implementación definitiva prevista para 2026, afectando a todos los actores del mercado de la IA, tanto dentro como fuera de la UE, en la medida en que sus sistemas impacten o se utilicen por personas en el territorio de la Unión. Con sanciones diseñadas para ser «efectivas, proporcionadas y disuasorias», la ley establece un marco sólido para la supervisión y cumplimiento de las normas de IA, garantizando que Europa lidere el camino hacia un futuro tecnológico responsable y éticamente orientado.
