“Los ciudadanos están a merced de los algoritmos”

Ramón López de Mántaras, investigador del CSIC, galardonado con el Premio Nacional de Investigación en 2018 y uno de los mayores expertos en inteligencia artificial que tiene España, reconoce que vive sin un solo aparato conectado en su casa. “No pienso tenerlo y no lo aconsejo a nadie”, sentencia en una entrevista con ComputerWorld. 

El académico dice estar “bastante preocupado” con la deriva que está tomando el uso de sistemas de inteligencia artificial y análisis de datos en todo el mundo. “Se están produciendo abusos intolerables. Cada vez soy más crítico con lo que se hace con la inteligencia artificial. Que haya empresas que hagan negocio con los datos de los ciudadanos y estos no tengan nada que decir… Tendríamos que ser dueños de nuestros datos y ser más críticos a la hora de cederlos”, espeta.

El experto considera que “los ciudadanos están a merced de los algoritmos” y que existen claras “asimetrías de poder” de modo que las grandes beneficiadas en la nueva era de la economía de los datos (en la que las personas, muchas veces sin saberlo, ceden su información) son las empresas. “La gente debería tener derecho a pedir una compensación económica por el uso de sus datos”. 

Urge regular 

La solución, añade, es legislar: “El regulador debe trabajar en esto. Es muy importante”, apostilla. “Además, si el uso de la inteligencia artificial perjudica a los ciudadanos debe haber consecuencias. No se puede implantar alegremente un algoritmo de reconocimiento facial con un ratio de error de un 80% y que no pase nada. Y, ojo, que esto no solo ocurre en China. También en Europa y en otros sitios. Sin ir más lejos, en España se ha empezado a utilizar un software para saber si una denuncia es falsa o no y esto es peligroso”.

Para el experto, antes de desplegar cualquier sistema de inteligencia artificial hay que realizar un “análisis exhaustivo y sopesar todo”. Afortunadamente, afirma, parece que los países empiezan a ser más conscientes de esto. “En la ciudad de San Francisco ya han prohibido el reconocimiento facial en lugares públicos y la Unión Europea ha planteado no utilizar esta tecnología durante al menos cinco años”.

"Cada vez soy más crítico con lo que se hace con la inteligencia artificial"

La necesidad de regular el desarrollo y uso de la inteligencia artificial es, por tanto, “cada vez más urgente”. Pero añade: “Por cada euro que se invierte en esta tecnología debería destinarse otro a su regulación y gobernanza”. Aunque el experto es consciente de que hay regulaciones previstas (este mismo mes de febrero se espera que haya avances al respecto en la Comisión Europea), el académico considera que “si solo se hacen documentos sin invertir dinero todo esto se queda en papel mojado”.

“Hace falta mucha más inversión”

Lo mismo ocurre en España. El propio López de Mántaras es uno de los expertos que participó en el desarrollo de la Estrategia española de I+D+i en inteligencia artificial, un documento que recoge prioridades y recomendaciones para potenciar la investigación y el desarrollo de esta tecnología y a la que debería haber seguido la publicación de la Estrategia Nacional de Inteligencia Artificial. Dicho plan fue anunciado por el anterior Gobierno en funciones y se espera que salga a la luz con el nuevo Ejecutivo, que ha creado una vicepresidencia que no solo trata los asuntos económicos sino también los tecnológicos bajo la que ha nacido un órgano específico para potenciar la economía de los datos: la Secretaría de Estado de Digitalización e Inteligencia Artificial, liderada por Carme Artigas.

Para López de Mántaras, la creación de una Secretaría de Estado que aborde estos temas es positivo, “refleja la intención de dar importancia a la inteligencia artificial”, aunque reconoce que de momento nadie se ha puesto en contacto con él, que participó en el otro documento, para perfilar la nueva Estrategia. 

"Es preciso atraer a este talento y generar nuevo"

Por otro lado, insiste: “Hace falta mucha más inversión, que haya partidas concretas a la investigación a través de nuevos instrumentos. Necesitamos dinero fresco, que no cuenten como inversión los fondos que se captan a través de los programas de I+D europeos”.

La nueva Estrategia debería, por otro lado, tener como objetivo captar talento. “Me gustaría ver una iniciativa decidida para recuperar a los científicos que se han ido fuera de España a trabajar en grandes compañías que desarrollan inteligencia artificial como Google o Apple o en las principales universidades del mundo. Es preciso atraer a este talento y generar nuevo”.

2020: el año del “realismo” en inteligencia artificial

A pesar de los estudios que afirman que cada vez más empresas en el mundo y en España utilizan la inteligencia artificial en sus procesos de negocio, la realidad deja mucho que desear, según el experto. “Son espejismos. Estos estudios son puro marketing. Manejamos datos que apuntan que las empresas que de verdad usan la inteligencia artificial de forma generalizada, rutinaria y sostenida apenas llegan al 15% a escala mundial. La adopción de esta tecnología en la empresa es aún muy escasa, entre otras cosas, porque no hay perfiles suficientes para entenderla y desplegarla”.

Por otro lado, añade que es vital que en las empresas se detecten los casos de uso donde esta tecnología puede ser útil. El académico cree que después de unos años de expectativas exageradas en torno a las posibilidades de la inteligencia artificial, en 2020 veremos ciertas dosis de realismo. “Lo más probable es que baje el suflé. Muchas empresas se desencantarán”.

Lo positivo, subraya, es que las empresas cada vez son más conscientes de que implantar esta tecnología conlleva unos riesgos si no se hace bien. “Un mal desarrollo de la inteligencia artificial puede amplificar los aspectos negativos, por ejemplo, los sesgos, y resultar contraproducente. Así lo hará si esta tecnología aprende de datos generados antes por las empresas y que son erróneos”.

Según el científico, que los datos sean de calidad, que no estén sesgados, que no tengan ‘ruido’ son aspectos claves. “No hay que olvidar que los datos en sí mismos no son información: hay que analizarlos e interpretarlos y relacionarlos con otros para que lo sean. Y la información tampoco es conocimiento, ni este último sabiduría”.

En todo caso, vaticina, el empleo de la inteligencia artificial aplicada al análisis de grandes cantidades de datos seguirá siendo tendencia este año 2020 en el ámbito corporativo, pues las utilidades (si se hacen bien los proyectos) son muchas para todos los sectores y de cara a mejorar mejores decisiones.

Respecto a las tendencias en el ámbito académico, el experto lo tiene claro: “No preveo una gran ruptura este año”.