Entrevista
Inteligencia artificial

Crónica de una ruptura mediática: por qué la independencia de la ciencia debe prevalecer sobre la política

La alianza entre el Gobierno de España y los Emiratos Árabes Unidos ha suscitado “discrepancias éticas” entre diversos miembros del consejo asesor de IA. Repasamos, de la mano de Lorena Jaume-Palasí, qué propició su salida, qué tiempos se manejaron y qué preceptos abandera la comunidad científica que ha optado por dar este paso al frente.

Lorena Jaume-Palasí
Lorena Jaume-Palasí habla para ComputerWorld tras su salida del consejo asesor de IA.

El compás de la vida política marca, generalmente, un ritmo acelerado. Sin embargo, en este baile, el tempo se percibe adagio; y es que, contra lo que pudiera parecer, las decisiones han sido premeditadas. El reciente acuerdo de colaboración refrendado entre la Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA) y el Gobierno de los Emiratos Árabes Unidos tiene como propósito levantar un centro de investigación en Granada bajo el sello de ADIA Lab. Un espacio erigido con la aspiración de convertirse en la sede europea del laboratorio emiratí mediante la investigación de la ciencia de datos, la inteligencia artificial (IA), el aprendizaje automático y la computación cuántica y de alto rendimiento. Una alianza puesta en tela de juicio, especialmente, por tres miembros del consejo asesor de ética sobre la IA dependiente del Gobierno de España: Carles Serra, director del Instituto de IA del CSIC; Lorena Jaume-Palasí, miembro del consejo asesor internacional del panel para el Futuro de la Ciencia y la Tecnología (STOA) del Parlamento Europeo; y Ricardo Baeza-Yates, director de Investigación en el Instituto de IA Experiencial de Northeastern University en Silicon Valley.

Estos tres pesos pesados dentro del campo de la investigación científica pertenecían, hasta hace unos días, al consejo asesor de Inteligencia artificial constituido por el Ejecutivo nacional allá por el 2020 con el propósito de “garantizar un uso seguro y ético de la IA”. Los derroteros del órgano consultativo, sin embargo, han motivado la dimisión de estos tres nombres propios dentro del sector. Repasamos, de la mano de Jaume-Palasí, qué propició su salida, qué tiempos se manejaron y qué preceptos abandera la comunidad científica que ha optado por dar este paso al frente. Así ha hablado para ComputerWorld.

 

"La forma en la que se financia la ciencia es parte de las consideraciones éticas que se deben tener en cuenta a nivel internacional”

 

Cambio de dinámica

El consejo fue fundado en tiempos prepandémicos, en el 2020, cuando el Gobierno de España detectó la necesidad de tomar cartas en lo relativo a la inteligencia artificial, puesto que no era un tema “tan neutral y objetivo como pensaban”, explica Jaume-Palasí. Entonces se dieron cuenta de que “en este campo existen los sesgos y la discriminación a nivel laboral, racial o incluso que hay sistemas que pueden poner en peligro la integridad y la salud de una persona”.  Aquello les motivó a materializar este consejo con el objetivo, dice, de “crear una estrategia y unas políticas que se centren en la ética y la seguridad de este tipo de tecnologías”.

Cuando la invitaron a participar y le detallaron este objetivo como la zanahoria a perseguir pensó que era algo “maravilloso” y aceptó por tanto la nominación. Entonces, consejo y administración, vivieron la conocida como fase de luna de miel. “Empezamos haciendo recomendaciones para la ENIA, la estrategia nacional para la inteligencia artificial que se desarrolló entre 2020 y 2021”. Durante aquel período, rememora Jaume-Palasí, “fuimos consultados, estuvimos trabajando intensamente un par de meses”; sin embargo, reconoce, pronto “desapareció esa dinámica”. Un cambio que la llevó a enterarse de acciones “más y más” por la prensa. “Los encuentros se realizaban de forma cada vez más espaciada, eran declaratorios, nos informaban y nos pasaban una presentación” que, posteriormente, evaluaba. En este sentido, los intentos de interacción en las comunicaciones quedaron en la nada: “Nunca fueron respondidos”. Esto, defiende haciendo hincapié en su experiencia previa en órganos de talla internacional, “es sorprendente, nunca he tenido una situación así”.

 

Dimisiones en cadena

Una vez más, apostilla, fue por las noticias que los miembros del consejo asesor se enteraron de la firma del acuerdo entre ADIA Lab y la SEDIA. “Mi colega Carles Serra dimitió inmediatamente”. Después, “en contra de lo que se afirma en documentos oficiales, no fuimos nosotros quienes pedimos una reunión, sino que desde la SEDIA se nos comunicó que había una junta de urgencia ‘para que esto no se nos desmadre”, dice la experta citando literalmente la comunicación del Gobierno. Recapitulando. “Serra renunció, hubo una reunión de urgencia, yo dimití por la noche ese mismo día y, horas después, lo hizo Ricardo Baeza-Yates”.

 

Consenso general

Llegados a ese punto renunciaron porque “hay una línea muy clara de consenso a nivel internacional de cómo se hace ciencia en general y en la vida en concreto”. En este sentido, explica, “la forma en la que se financia la ciencia es parte de las consideraciones éticas que se deben tener en cuenta a nivel internacional”. Si una tabacalera realiza investigaciones sobre el impacto de la salud en el tabaco, la ciencia que lleva a cabo “no es independiente”. En el caso de ADIA Lab, con más inri: “Viene de un centro que está siendo financiado en su totalidad por un Gobierno que decide quién está en esa institución, cuál es la agenda, que no cree de forma probada en la independencia de la ciencia”. Eso, impele, “no es ciencia válida, no es ciencia puntera”. “Hacer negocios con un país que intenta lavar su imagen comprando a un grupo de hombres blancos, la mayoría educados en Estados Unidos, poniéndolos en primera línea para que hagan ciencia sobre ética, ecología y medicina cuando no hay nadie especializado en esos campos”, dice tras haber consultado sus biografías, indica que “empezamos mal”.

 

"En España reconocemos que no hay una jerarquía científica, hay temas que debemos tratar de forma híbrida, algo que no hace precisamente ese instituto y que se puede constatar al mirar la primera fila que se ha acordado en Granada”

 

Argumentario

Este es solo el comienzo de una retahíla de argumentos que pronuncia sin despeinarse pero con contundencia. Lo que el acuerdo de Granada pretende llevar a cabo, continúa en su explicación, es una modelización económica de transición ecológica. Es decir, “un modelo para hacer policy [políticas públicas] y entender el riesgo y el grado de aceptación y rechazo de medidas ecológicas desde un punto de vista económico”. Sobre el papel, una iniciativa ambiciosa, en la práctica, “debemos mirar quién es el país o el Gobierno que está detrás de este tipo de modelización”. Al hacerlo, incide, “observamos que el que está detrás en este contexto específicamente es un Gobierno cuya riqueza la adquiere principalmente con la venta del petróleo”. En este sentido, alega, “yo diría que un centro dependiente de un Gobierno que se financia con la venta del ‘oro negro’ va a llevar a cabo una modelización económica de la transición ecológica diferente a la que haría otra persona” financiada por fuentes asépticas.

Después de este rapapolvo toma aire y continúa: “Lo mismo con la ética”. “Si ese Gobierno cuestiona la dignidad de las mujeres casadas [dice al hablar sobre el consentimiento de la violación dentro del matrimonio], a la comunidad LGTBIQ+, los derechos laborales de personas migrantes que trabajan en la construcción, como empleados domésticos y de cuidado al tratarlos como esclavos, ¿qué tipo de ética nos van a meter sin tener a nadie especializado?”.

 

"Si no nos consultas, si me entero por la prensa, si solo me informas, si no tengo capacidad de réplica y, aun así, se toman este tipo de decisiones, yo decido salirme, no quedarme callada ante cuestiones que éticamente considero reprensibles"

 

En ADIA Lab tenemos “un perfil de gente que piensa que pueden matematizar campos y disciplinas de los que no tienen ni idea simplemente por ser ingenieros”. Alientan así una “jerarquización científica e implícita” desde los cimientos, “ya en la forma en la que está estructurado este instituto”. Algo impensable a nivel nacional. “En España reconocemos que no hay una jerarquía científica, hay temas que debemos tratar de forma híbrida, algo que no hace precisamente ese instituto y que se puede constatar al mirar la primera fila que se ha acordado en Granada”.

“Si no nos consultas, si me entero por la prensa, si solo me informas, si no tengo capacidad de réplica y, aun así, se toman este tipo de decisiones, yo decido salirme, no quedarme callada ante cuestiones que éticamente considero reprensibles y que discrepan con el propósito con el que fui nombrada”, concluye Jaume-Palasí.



TE PUEDE INTERESAR...

Contenido Patrocinado

Forma parte de nuestra comunidad

 

¿Te interesan nuestras conferencias?

 

 
Cobertura de nuestros encuentros
 
 
 
 
Lee aquí nuestra revista de canal

DealerWorld Digital