Las aseguradoras calientan motores ante la llegada de los retos éticos y regulatorios de la IA

La irrupción de la inteligencia artificial (IA) generativa ha hecho despertar incluso a las empresas que habían estado dormidas en los últimos años en términos de tecnología e innovación. No es raro ahora ver que casi todas las organizaciones han integrado esta tecnología en sus procesos internos o han lanzado nuevos productos, soluciones y funcionalidades con IA. Desde el sector de las aseguradoras, más propensas a no tomar riesgos sin toda la información necesaria, están mirando esta tendencia con cautela, intentando aprender todo lo que se pueda sobre la IA para poder adaptar sus productos y negocio a esta nueva realidad.

En este contexto, Mapfre ha publicado un estudio interno llamado "IA Responsable: tecnología segura y digna de confianza que impulsa la Economía del Futuro", que realizó para entender cómo están abordando las empresas los riesgos de la IA y las implicaciones éticas que pueden surgir en el uso de esta tecnología.

Según presentó Bárbara Fernández, directora adjunta de Mapfre Open Innovation, entre las organizaciones existe “una percepción de riesgo, pero se piensa que está bajo control en esta etapa, porque los casos de uso no están siendo utilizados a escala”. De hecho, según el informe sólo un 13% de las compañías tiene la IA desplegada a escala.

Pero los riesgos son muchos, dijo Fernández, y se agrupan básicamente en tres bloques: operacionales, que tienen que ver con la solidez, la seguridad y el desempeño de los sistemas; éticos, donde se debe velar por la justicia, la transparencia y la explicabilidad de los modelos; y regulatorios, en el que el compliance y la rendición de cuentas son clave. 

Actualmente, muchos países están trabajando en sus propias normas para regular la IA, sin embargo, no hay un marco común. “La regulación está muy enfocada en evitar la discriminación, este es uno de los temas en los que se está viendo colaboración entre países. Pero no está claramente definido quien asumirá la responsabilidad si esto no funciona bien”, explicó Fernández.

Aquí es donde entra la IA Responsable (RAI, por sus siglas en inglés), que busca la gestión del ciclo de vida de los modelos de la IA siguiendo los principios, procesos y políticas necesarias para velar por un impacto positivo de esta tecnología y la protección de los individuos y la sociedad. La RAI “está generando un nuevo ecosistema y coordina las contribuciones de distintos agentes con el objetivo común de promocionar una adopción ética y responsable de la IA”, añadió Fernández.

La oferta de RAI -ya sea en soluciones de selección y procesamiento de datos, de observabilidad, explicabilidad o gobernanza y compliance-, está dominada principalmente por startups, aunque los sectores legales, de auditoría y de riesgo han comenzado a posicionarse como líderes en este ámbito también. Y en cuanto a su implementación, quienes llevan la batuta son los sectores de la tecnología, los medios y las telecomunicaciones, donde el 92% de las compañías con IA desplegada a escala tienen sistemas RAI. Se espera que el mercado de la gobernanza de la IA crezca a una tasa del 49,5% entre 2021 y 2023, pasando 54 a 819 millones de dólares.

Una casi “inexistente” oferta de seguros de IA

Con estas tendencias como información de fondo, Mapfre ha detectado que la oferta de seguros que cubre los riesgos asociados al uso de la IA es “prácticamente inexistente”. Pero hay una luz al final del túnel. La presión regulatoria y la automatización íntegra de procesos impulsarán la demanda de este tipo de producto asegurador.

Ya existen ejemplos. Los sectores de los vehículos autónomos y de los sistemas autónomos de los procesos industriales han hecho surgir los primeros seguros específicos para la IA. “Es precisamente en esos ámbitos donde se espera que la demanda aumente en el medio/largo plazo, extendiéndose al aseguramiento de cualquier sistema que esté gestionado íntegramente por algoritmos de IA”, sostiene el informe. 

No obstante, Mapfre advierte: es necesario que, antes de que se popularice este tipo de seguros, se esclarezca a través de la regulación la asignación de las responsabilidades cuando estas tecnologías no funcionen como corresponde. También es clave, continúa, que se evalúe la actual oferta de seguros para determinar el impacto del uso de la IA en sus coberturas. Es posible que ni siquiera se requiera la creación de un nuevo producto, sino que sea suficiente con adaptar los ya existentes.

“Sea como fuere, resulta indiscutible que todos debemos aprender a usar correctamente la IA, entender sus riesgos y controlarlos En el caso de las aseguradoras, debemos desplegarla internamente de manera segura, pero, además, debemos ayudar a los clientes en su viaje hacia el despliegue de la Inteligencia Artificial Responsable. Hemos de trabajar para prevenir y evitar cualquier comportamiento indeseado y proteger a los individuos y la sociedad de posibles daños”, concluye el informe. 

“Tenemos que trabajar juntos, porque necesitamos aprender. Tenemos que ser cuidadosos, pero no podemos parar”, puntualizó Fernández.