Los eurodiputados exigen la regulación del uso militar y en servicios públicos de la IA

El informe, aprobado ayer en el Europarlamento con 364 votos a favor, 274 en contra y 52 abstenciones, exige que la regulación de la inteligencia artificial por parte de la UE debe estar alineada y realizarse en cooperación con la ONU y la comunidad internacional; además, insta a las instituciones europeas y a sus estados miembros que garanticen que todas las tecnologías relacionadas con la inteligencia artificial se centren en el ser humano, estén a su servicio y se utilicen en aras del bien común.

Respecto al uso militar de estas tecnologías, el documento apunta que los sistemas dotados de IA deben permitir que “los humanos ejerzan un control significativo, para que puedan asumir la responsabilidad y rendir cuentas de su uso”. En concreto, resaltan que el uso de sistemas de armas autónomas letales (LAWS) “plantea cuestiones éticas y legales fundamentales sobre el control humano”; por este motivo, subrayan los eurodiputados, la UE tiene que disponer de estrategia para prohibirlos, al igual que los llamados ‘robots asesinos’. 

En lo que se refiere al uso de la IA servicios públicos, sobre todo en sanidad o justicia, el informe apunta que “no debe sustituir el contacto humano ni dar lugar a la discriminación”. Los ciudadanos, añade el escrito, deben ser siempre informados si son objeto de una decisión basada en la IA y tener la opción de recurrirla.

Además, si se utilizan estas tecnologías en cuestiones de salud pública (cirugía asistida por robots, prótesis inteligentes, medicina predictiva, etc.), los datos personales de los pacientes deben estar protegidos y se debe respetar el principio de igualdad de trato. “Aunque el uso de tecnologías de IA en el sector de la justicia puede ayudar a acelerar los procedimientos y a tomar decisiones más racionales, las decisiones finales de los tribunales deben ser tomadas por humanos, ser estrictamente verificadas por una persona y estar sujetas al debido proceso”, afirma el documento.

El peligro de la supervigilancia y la información falsa

Finalmente, el informe incorpora un apartado sobre las amenazas que suponen para los derechos humanos fundamentales y para la soberanía del Estado el uso de tecnologías de IA en la vigilancia masiva civil y militar. En el escrito, los diputados piden que se prohíba a las autoridades públicas el uso de “aplicaciones de puntuación social altamente intrusivas” (que permitan controlar y calificar a los ciudadanos). Además, alerta sobre las tecnologías ‘deepfake’, que pueden “desestabilizar países, difundir desinformación e influir en las elecciones” y apuntan que los creadores de estas deberían estar obligados a etiquetar ese material como ‘no original’ y habría que investigar más sobre la tecnología para contrarrestar este fenómeno.