IBM presenta una herramienta para detectar el sesgo de la inteligencia artificial

Las empresas necesitan sacar el máximo partido de la aplicación de inteligencia artificial y para ello IBM ha dado a conocer un nuevo tipo de software que se encarga de detectar automáticamente los sesgos y proporcionar una explicación sobre las decisiones que toman los algoritmo de IA. 

David Kenny, vicepresidente senior de Soluciones Cognitivas de IBM, ha explicado el trabajo de la compañía."IBM ha liderado la industria y ha impulsado establecimiento de valores como la confianza y la transparencia en el desarrollo de nuevas tecnologías de IA”, ahora la empresa quiere llevar estos valores a la práctica y según cuentan ya están facilitando a las empresas que utilizan la IA "una mayor transparencia y control para afrontar el riesgo potencial de una toma de decisiones errónea."

Recientemente una encuesta del Institute for Business Value de IBM publicó una encuesta en la que se revelaba que mientras el 82% de las empresas se plantea utilizar la IA, al 60% le preocupa cuestiones de responsabilidad y el 63% carece de las capacidades y el talento interno para gestionar esta tecnología con confianza.

Estos nuevos desarrollos de IBM disponibles en IBM Cloud, funcionan con modelos construidos a partir de una amplia variedad de frameworks de machine learning y entornos personalizados de IA como Watson, Tensorflow, SparkML, AWS SageMaker y AzureML. Así, las organizaciones pueden aprovechar estos nuevos controles para la mayoría de los frameworks de IA más utilizados por las empresas.

También se puede programar el servicio de software para monitorizar los factores específicos de decisión que se tengan en consideración para cualquier flujo de trabajo empresarial, lo que permite personalizarlo para el uso específico de cada organización. De esta forma este servicio describe la toma de decisiones y detecta sesgos en los modelos de IA en tiempo de ejecución. Es decir, captura resultados potencialmente injustos a medida que se producen. 

Todas estas capacidades son accesibles a las empresas a través de cuadros de mando visuales. Lo que proporciona a los usuarios una capacidad incomparable para comprender, explicar y gestionar las decisiones tomadas a partir de la IA y reducir la dependencia de contar con conocimientos específicos sobre IA.