Europa cierra un acuerdo político para regular la inteligencia artificial

Europa ha dado un paso de gigante en la regulación de la inteligencia artificial en su territorio con el acuerdo alcanzado el viernes entre el Consejo de la UE, que representa a los gobiernos de los Estados miembros y cuya presidencia recae este semestre en España, y el Parlamento Europeo. Tras días de intensas conversaciones, finalmente el viernes a última hora los negociadores de estas instituciones cerraron filas en torno a la propuesta actual de “normas armonizadas sobre inteligencia artificial”, la llamada IA Act.

Este proyecto de reglamento pretende garantizar que los sistemas de IA que se comercializan y se utilizan en el mercado europeo sean seguros y respeten los derechos fundamentales y los valores de la UE, siguiendo la idea de que hay que regular esta tecnología en función de su capacidad para causar daños a la sociedad siguiendo un planteamiento "basado en el riesgo" (es decir, que cuanto mayor sea el riesgo, más estrictas serán las normas). No obstante, el futuro reglamento también persigue impulsar la innovación en torno a una tecnología altamente disruptiva para la economía y la sociedad en su conjunto y en la que países como Estados Unidos y China se encuentran en cabeza.

La UE, primera potencia mundial en establecer "reglas claras" para el uso de la IA

“Se trata de un logro histórico y de un enorme hito hacia el futuro. El acuerdo de hoy aborda eficazmente un reto global en un entorno tecnológico en rápida evolución sobre un área clave para el futuro de nuestras sociedades y economías. Y en este empeño, hemos conseguido mantener un equilibrio extremadamente delicado: impulsar la innovación y la adopción de la inteligencia artificial en toda Europa respetando plenamente los derechos fundamentales de nuestros ciudadanos”, señalaba tras alcanzar el acuerdo Carme Artigas, secretaria de Estado española de Digitalización e Inteligencia Artificial, y quien ha tenido un papel destacado en las negociaciones al ser España el país que preside este semestre el Consejo de la UE.

De hecho, lograr este acuerdo era uno de los hitos que perseguía Artigas y su equipo durante este semestre de presidencia española del Consejo de la UE; no obstante, la aprobación de la IA Act en sí no se producirá hasta el primer trimestre del próximo 2024, bajo la presidencia belga del Consejo. El futuro reglamento de IA, de hecho, no entrará en vigor presumiblemente hasta dos años después, en 2026.

Uno de los grandes impulsores del reglamento, el francés Thierry Breton, comisario de Industria y Servicios Digitales, destacó que con este acuerdo, “la UE se convierte en el primer continente en establecer unas reglas claras para el uso de la IA”, además de precisar que la IA Act es “mucho más que un reglamento: es una plataforma de lanzamiento para que las startups y los investigadores de la UE lideren la carrera mundial de la IA”.

Aunque no estuvo presente en las negociaciones, Ursula von der Leyen, presidenta de la Comisión Europea, sí mostró su “gran satisfacción” por el acuerdo político alcanzado por el Parlamento Europeo y el Consejo sobre la Ley de Inteligencia Artificial, describiendo esta como “el primer marco jurídico global sobre inteligencia artificial en todo el mundo”. “Se trata de un momento histórico. La Ley de IA transpone los valores europeos a una nueva era. Al centrar la regulación en riesgos identificables, el acuerdo de hoy fomentará la innovación responsable en Europa. Al garantizar la seguridad y los derechos fundamentales de las personas y las empresas, apoyará el desarrollo, el despliegue y la adopción de una IA fiable en la UE. Nuestra Ley de IA contribuirá sustancialmente al desarrollo de normas y principios mundiales para una IA centrada en el ser humano".

Un camino lleno de retos

La UE cree que esta extensa propuesta legislativa en torno a la IA, la primera de este calado en todo el mundo, puede convertirse en un referente a seguir por otros países que están también inmersos en regular la IA; así ocurrió también, de hecho, con el Reglamento Europeo de Protección de Datos (GDPR, en sus siglas en inglés), cuyo enfoque han adaptado muchas otras jurisdicciones a escala global.

Otros países han realizado alguna iniciativa para regular esta tecnología pero mucho menos ambiciosa. Es el caso de Estados Unidos, cuyo Gobierno emitió un decreto para obligar a los desarrolladores de sistemas de IA a compartir los datos de las pruebas internas con el Gobierno, para prevenir que estos avances supongan un “riesgo grave para la seguridad nacional, económica o para la salud y seguridad públicas”. También, recientemente en Reino Unido se celebró una cumbre sobre IA impulsada por el Gobierno Británico en la que 28 potencias y la UE refrendaron una declaración (llamada de Bletchley Park) por la que se comprometían a trabajar juntos para afrontar los desafíos que emerjan del uso de la IA.

En qué consiste el acuerdo provisional sobre la IA Act

La Ley de IA, que la Comisión propuso inicialmente en 2021, ha tenido que modificarse con la irrupción de los grandes modelos de lenguaje y el auge de la llamada IA generativa, cuyo máximo exponente es ChatGPT, la primera plataforma lanzada al mercado de estas características, propiedad de la compañía OpenAI.

Respecto a la propuesta inicial de la Comisión, los elementos que se han añadido en este acuerdo provisional son normas sobre los modelos de IA de propósito general de alto impacto que puedan causar un riesgo sistémico en el futuro, así como sobre los sistemas de IA de alto riesgo; un sistema revisado de gobernanza con algunos poderes coercitivos a nivel de la UE; la ampliación de la lista de prohibiciones, pero con la posibilidad de que las autoridades policiales utilicen la identificación biométrica a distancia en los espacios públicos, con sujeción a salvaguardias; y una mejor protección de los derechos mediante la obligación de que quienes desplieguen sistemas de IA de alto riesgo realicen una evaluación de impacto sobre los derechos fundamentales antes de poner en funcionamiento un sistema de IA.

Respecto a las prohibiciones, se especifica que no se podrá realizar una manipulación cognitiva del comportamiento, la extracción no selectiva de imágenes faciales de Internet o de grabaciones de CCTV, el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas, la puntuación social, la categorización biométrica para inferir datos sensibles, como la orientación sexual o las creencias religiosas, y algunos casos de vigilancia policial predictiva de personas.

Incumplir el nuevo reglamento conllevará multas que ascienden a 35 millones de euros o el 7% por infracciones de las aplicaciones de IA prohibidas, 15 millones de euros o el 3% por infracciones de las obligaciones de la ley de IA y 7,5 millones de euros o el 1,5% por el suministro de información incorrecta. Aunque, el acuerdo también prevé límites “más proporcionados” para las multas administrativas a las pymes y las empresas de nueva creación.

El acuerdo provisional aclara que el reglamento no se aplicará a ámbitos ajenos a la legislación de la UE y que, en ningún caso, afectará a las competencias de los Estados miembros en materia de seguridad nacional ni a ninguna entidad que tenga encomendadas tareas en este ámbito. Por otro lado, no se aplicará a los sistemas que se utilicen exclusivamente con fines militares o de defensa. Del mismo modo, no se aplicará a los sistemas de IA utilizados con el único fin de la investigación y la innovación, ni a las personas que utilicen la IA por motivos no profesionales.