Carme Artigas: “El metaverso está bien para orientar las inversiones a nuevos campos, pero sin regulación no va a ser posible”

Por Nerea Bilbao / Imagen: Juan Márquez

Con motivo del especial Inversiones 2022, ComputerWorld habla con Carme Artigas, secretaria de Estado de Digitalización e Inteligencia Artificial, sobre las próximas grandes tendencias y las oportunidades que plantean tecnologías como la inteligencia artificial y el metaverso. También el estado en que se encuentra el reparto de los fondos europeos, una herramienta que, a todas luces, dinamizará el sector y en la que descansan las previsiones de crecimiento de muchos actores de TI.

Artigas defiende la fórmula innovadora puesta en marcha para que las ayudes lleguen "por primera vez" a un millón de pymes y confía en las oportunidades de los nuevos modelos de negocio que están por venir, pero considera que las regulaciones adecuadas deben anticiparse a su desarrollo.

DigitalES ha lanzado, junto con una serie de empresas del sector TIC, un informe sobre ética en el uso de IA en Salud y más recientemente OdiseIA publicó, también con ayuda de primeros espadas tecnológicos, una guía con las recomendaciones éticas para el uso de IA. ¿Cuáles son los fundamentos básicos que debe incorporar la IA en el tratamiento de datos sensibles?

En el desarrollo de inteligencia artificial se abordan unos aspectos nuevos y diferenciales que van más allá del tratamiento de datos. Tenemos unas leyes de protección de datos que se encargan de los datos personales, pero el crecimiento exponencial de los datos en los próximos años no va a venir sólo de ahí, va a venir de los datos industriales, por ejemplo, que debemos preservar con el mismo celo, porque van a ser la base de nuestra ventaja competitiva como Europa. Aquí hablamos de unos espacios de datos industriales europeos, de la iniciativa GAIA X, que en España tiene su reflejo en el capítulo nacional, por tanto tenemos que empezar a ver todo esto desde una perspectiva mucho más amplia. La regulación de datos, la GDPR, está vigente y se va a revisar, pero cuando hablamos de la ética en la IA tiene que ver con cómo desarrollamos algoritmos que no sesguen, que estén bien entrenados, que sean explicables, que sean robustos y que no lleven a decisiones automáticas que discriminen.

¿Dónde va a centrar sus esfuerzos la secretaría para conseguir este fin?

Estamos muy preocupados en el desarrollo de estos marcos éticos y normativos que permitan un sello de calidad a los algoritmos para que la gente tenga una confianza en el desarrollo tecnológico y para que no sean cajas negras en las que nadie sabe cuáles son las decisiones automáticas que hay detrás.

Somos el primer país que lo plantea; somos los primeros que plantean el concepto de transferencia algorítmica que está reflejado en el anteproyecto de ley, que es la ‘ley rider’, y el primer país que lo incluye en la carta de derechos digitales, donde además de los derechos trasversales hay un capítulo específico de los derechos vinculados a la IA.

Además, está en marcha el desarrollo del Reglamento europeo sobre inteligencia artificial, donde España es el país piloto, para ponerlo en marcha y ver las dificultades de poder analizar todos estos datos.

"La ética en la IA tiene que ver con cómo desarrollamos algoritmos que no sesguen, que estén bien entrenados, que sean explicables, que sean robustos y que no lleven a decisiones automáticas que discriminen"

¿Puede ser la regulación una cortapisa para las inversiones?

En el tema de la regulación siempre hay un equilibrio. No puedes regular demasiado a priori porque, si no, limitas la innovación. El gran equilibrio en el Reglamento europeo de inteligencia artificial tiene que ver con todo lo relacionado con regular solo los espacios de riesgo. Nosotros vamos más allá y pensamos que también tenemos que exigir una serie de regulaciones no sólo técnicas sino éticas a la hora de que las empresas apliquen esos algoritmos.

Estamos en este camino. Por la parte de la estrategia nacional de Inteligencia Artificial tenemos el compromiso de desarrollar un sello de calidad y de poner en marcha esos mecanismos de auditoría y control. Ya lo empezaremos a hacer a través de la iniciativa del Observatorio sobre el impacto social de los algoritmos y empezar a crear grupos de trabajo. Tanto OdiseIA como otros que hayan elaborado esos manuales van a ser bienvenidos para participar en esos grupos de trabajo y empezar a ver a nivel sectorial cuáles son las cosas que nos preocupan. Lo más interesante es que esta Secretaría de Estado tiene el encargo de crear la primera Agencia Estatal de supervisión de inteligencia artificial que va a haber en el mundo. Mi encargo es que lo tenga hecho antes de final de año.

Estará bajo el paraguas de la Secretaría de Estado junto con la otra agencia española de administración digital, a actual SGAD. Es muy novedoso y otros países nos están preguntando ya cómo lo haremos. Gracias a que ha habido distintos sectores que han empezado a trabajar, no empieza de cero.

El tratamiento y la transacción de datos es uno de los grandes negocios de la actualidad. Meta lanzó un órdago al sugerir que si el nuevo reglamento de transacción de datos no favorecía sus intereses, retiraría Instagram y Facebook de Europa. ¿Cuál es la posición del gobierno en relación a este nuevo marco de transacción de datos que se está cocinando?

No hay ninguna duda de que estamos evolucionando hacia una economía del dato. El dato es la materia prima del conocimiento, de la inteligencia y de nuevos modelos de negocio.

Una cosa es que esto se pueda desarrollar sin ninguna regulación. Lo que ocurre es que, de facto, las grandes plataformas digitales se han convertido en monopolios y como todo monopolio necesitan ser reguladas. Son monopolios de datos que cruzan datos de distintos negocios para tener unos perfilados hipersegmentados de los ciudadanos. Lo hacen con datos personales, y los ciudadanos no son conscientes de esos cruces de datos más allá de la aceptación de las cookies y de información muy básica. Esto es lo que queremos regular a nivel europeo. De hecho, Europa es el único preocupado en regular el poder excesivo de las plataformas y todo el mundo nos está mirando, porque a pesar de que en EE.UU. no están iniciando esta regulación porque protegen mucho a sus empresas, los ciudadanos americanos sí que están interesados en que la regulación europea salga porque, al fin y al cabo, fuimos pioneros en GDPR al fin, y todo el mundo lo terminó aplicando.

"Europa convertirá en estándar mundial tanto el Reglamento de protección y de inteligencia artificial"

Estamos convencidos de que tanto la DSA y la DMA, las grandes directivas que regulan la competencia Digital Market Acts, y el límite del uso de las plataformas, de las cookies y de la limitación de los servicios digitales, son normas que cambiarán las dinámicas de negocio. Tenemos que regular lo que pasa fuera de nuestras fronteras. Quien quiera acceder al negocio europeo deberá seguir nuestras normas y nadie se podrá permitir el lujo de prescindir del mercado europeo. Ninguna de estas amenazas llegará a ningún lado porque la primera perjudicada será la empresa que renuncia al mercado europeo. Las grandes plataformas tienen que saber leer el signo de los tiempos y que no podrá hacerse lo que se quiera con los datos de alguien de manera ilimitada.

Otra cosa es la forma en que regulamos los flujos de datos con otros países. Estos flujos solo serán posibles si esos países tienen normas claras y parecidas a las que protegen los datos europeos. Y la posición de Europa es que los datos de los europeos se quedan, se procesan en Europa, en centros de datos europeos y en nubes europeas. Quien quiera compartirlos lo tendrá que hacer bajo nuestras normas. Esto es lógico y legítimo.

Creo que Europa, al igual que fue pionero en el GDPR, que ahora ha convertido en estándar mundial, también convertirá en estándar mundial tanto el Reglamento de protección y de inteligencia artificial como la DSA y la DMA.

Se acaba de hacer público el anuncio de las ayudas del Kit Digital para pymes en el marco del programa NextGenerationEU. Se está hablando mucho de que los fondos no están llegando. AMETIC pidió una fórmula mixta para agilizar su llegada. ¿En qué punto estamos?

Me extraña porque AMETIC ha estado muy involucrado en el diseño y hasta ahora están encantados de que estemos innovando en los procesos. Si piensas que el Kit Digital se va a gestionar como de la manera tradicional de las subvenciones 2020, no llegarían a buen puerto. Para hacer cosas distintas hay que hacerlas de forma distinta. Por eso hemos innovado muchísimo en la puesta en marcha de este programa que es muy ambicioso y que tiene la vocación de llegar a un millón de pymes, algo que no ha ocurrido nunca.

¿En qué fase estamos?

El kit digital está generando unas expectativas por encima de las que teníamos.

Hemos publicado las órdenes de base y hemos empezado por los agentes digitalizadores. Durante los meses de enero y febrero hemos abierto el registro para los agentes digitalizadores, donde hay unos requisitos mínimos que garantizan que no existe fraude o se presta un mal servicio. En paralelo, tenemos que lanzar las convocatorias de ayudas y de subvenciones, que es el denominado bono digital, que son ayudas directas para pymes. Por tanto necesitamos que nos lo pidan.

Esto siempre ha sido el gran campo de batalla de las pequeñas y medianas empresas; que no se leen el BOE y que a la hora de pedir, si lanzamos un proceso que requiera de 36 documentos y una adjudicación dentro de dos meses, no funciona. Pasa un año y no le sale a cuenta a nadie.

"Quien quiera compartir datos europeos lo tendrá que hacer bajo nuestras normas. Esto es lógico y legítimo"

Hemos cambiado la dinámica de esta ayuda. De entrada se puede solicitar de forma directa o a través de un representante, que puede ser un gestor, el proveedor de servicios o una entidad bancaria. Esto va a permitir que el mercado permita gestionar la subvención en nombre de su cliente. Como queremos generar demanda, los que pueden hacer mejor esa labor son los que están interesados en vender esos servicios. También lo pueden pedir las asociaciones empresariales al erigirse como agente voluntario para pedir el bono en nombre de una pyme. Esto va a dinamizar el sector.

A fecha de hoy [17 de febrero] ya tenemos 77.000 pymes registradas y 7.000 registradores de los que casi 4.000 ya han presentado la documentación que se está evaluando y verificando. Esperamos lanzar la convocatoria a finales de febrero para que puedan empezar a solicitarlas a partir del 15 de marzo. Antes de final de año esperamos lanzar las dos convocatorias para llegar a las empresas de entre 3 y 10 trabajadores y a autónomos entre 1 y 2.

¿Cuáles son las oportunidades de la nueva generación de internet que empieza a perfilarse para las nuevas empresas y que trae consigo conceptos como el metaverso, NFT o blockchain?

Va a generar el crecimiento de un nuevo sector, de un sector muy dinámico. Hemos hablado siempre del metaverso, donde para mí, hay una parte muy importante de hype, de vender la piel del oso antes de haberlo cazado. La tecnología aún no está, las tecnologías de realidad virtual y aumentada están aún en una fase muy incipiente. Sin embargo, todo esto se va a poder desarrollar con 5G. La gran oportunidad va a ser esta, que va a poder permitir desarrollar todos estos entornos sin latencia que dará pie y oportunidad a todos estos desarrollos tecnológicos.

No nos olvidemos que el metaverso, el hype, entraña unos riesgos que no podemos desplegar antes de haber limitado los usos de la tecnología. El metaverso no puede ponerse en marcha sin un Reglamento europeo de inteligencia artificial en vigor. Por suerte va a llegar a tiempo, porque vamos a plantearlo en dos años y esta realidad, probablemente, antes de cinco no será algo real. Pero lo que no podemos tener es un entorno donde se junten todos los riesgos a la vez: el uso de los datos en múltiples entornos, el de las adicciones a los videojuegos, el de los sesgos o el riesgo de la alienación mental de unas personas en un entorno virtual. Si no hemos resuelto hoy, aún, los problemas de la desinformación y de la manipulación informativa en los sectores tradicionales, imagínate juntar todos esos riesgos de golpe en este entorno.

Está muy bien que aparezcan estos hypes para orientar las inversiones a nuevos campos, pero crear un salvaje oeste sin regulación no va a ser posible. Hay potencial en la creación de estos entornos; la realidad virtual y la aumentada tienen grandes usos en entornos médicos e industriales, pero no podemos crear un entorno sin regular. La regulación debe ir antes del desarrollo sin cortapisas. Pero se irá acompasando. Esto no puede existir sin un desarrollo de 5G y sin cierta regulación. Vamos a ver un nuevo sector que entiendo que se va a ir configurando con los esquemas que tenemos por desarrollar aún.