McKinsey alerta de los riesgos del uso de la IA

Incluso los usos aparentemente inocuos de la inteligencia artificial pueden tener graves implicaciones en cuanto a sesgos significativos en el análisis de los datos, violaciones de la privacidad e incluso discriminación a distintas minorías. Así lo pone de manifiesto un informe de la consultora McKinsey (llamado Liderar tu organización hacia una IA responsable), dirigido a los máximos responsables  de las empresas y en el que afirma que éstos deben saber orientar estos procesos con un uso responsable e imparcial de los datos

El informe indica que el porcentaje de empresas que han incorporado al menos una capacidad de IA en sus procesos de negocio se ha duplicado en 2018 respecto al año anterior y que esta tecnología se está convirtiendo en una herramienta básica de los CEO, que la utilizan con el ánimo de impulsar los ingresos y la rentabilidad. “Pero su despliegue requiere una gestión cuidadosa para evitar posibles daños no intencionados que pueden llegar a ser significativos”, reza el estudio.

Los CEO, afirma éste, “deben garantizar una aplicación responsable de los sistemas de IA más allá del cumplimiento de las leyes aplicables”. Según el equipo de McKinsey, su papel es esencial pues deben tener un sólido conocimiento práctico de los desarrollos de la IA para poder orientar al conjunto de la empresa en tres áreas clave: clarificar la forma de trasladar los valores de la empresa a las aplicaciones de IA a través de directrices sobre los objetivos marcados, con el fin de seleccionar los procesos candidatos a la automatización; guiar a la compañía con definiciones y métricas para evaluar la IA ante posibles sesgos e imparcialidad en el análisis; y establecer una jerarquía de valores de empresa y destacar el papel de la diversidad en la selección de talento.

“El desarrollo de la IA siempre implica contrapartidas, especialmente las relacionadas con la precisión de los algoritmos y la transparencia en su toma de decisiones, por lo que el criterio de la dirección es esencial para que los equipos tomen las decisiones más acertadas”, afirma el escrito, añadiendo que los líderes deben considerar todo tipo de diversidad: de género, edad, etnia, disciplina y experiencia.

Recomendaciones

El informe destaca en concreto cinco áreas que exigen un sólido liderazgo desde la dirección de las compañías para poder hacer frente a los problemas más comunes: una adquisición apropiada de datos (los directivos deben vigilar de dónde se adquieren esos datos y cómo se utilizan); adecuación del conjunto de datos (asegurar que los conjuntos de datos reflejan con precisión todas las poblaciones analizadas, evitando sesgos para no privilegiar a grupos mayoritarios); imparcialidad en la aplicación de IA (los resultados de la IA pueden también ser imparciales debido a sesgos históricos, ya que estos análisis no tienen en cuenta el contexto y las implicaciones de estas decisiones); cumplimiento normativo y compromiso (los directivos deben asegurarse de que sus organizaciones cumplen con la legislación y no comprar o vender datos obtenidos sin consentimiento); y explicación del modelo de IA (en ocasiones, es necesaria una explicación del modelo que se ha llevado a cabo para llegar a una u otra conclusión, especialmente en los usos de la IA relacionados con la búsqueda de trabajo o con préstamos financieros).