La relación hombre-máquina requiere comprensión mutua y respeto por la IA

La IA generativa (genAI) pronto se infiltrará en todos los aspectos de nuestra vida personal y empresarial, lo que significa que la humanidad necesitará reevaluar su relación con las máquinas, máquinas que siguen volviéndose más parecidas al ser humano en sus capacidades.

En poco tiempo, han pasado de ser herramientas a compañeros de equipo para todo, desde el desarrollo de productos y la eficiencia de la productividad hasta las relaciones románticas y los terapeutas psicológicos, según tres ejecutivos de Gartner Research. Precisamente ellos hablaron de la rápida evolución de la genAI en el último año durante el Simposio anual de TI de la firma celebrado la semana pasada.

Para las empresas, existen cuatro oportunidades principales para el uso de genAI: puede ser un aliado de la productividad para la eficiencia en el lugar de trabajo, un socio creativo para la invención de nuevos productos, una forma externa de conectar con los clientes y una interfaz de back-office con los sistemas existentes.

Aunque la IA tiene más de 50 años, el lanzamiento de ChatGPT por la startup de Silicon Valley OpenAI a finales de 2022 cambió drásticamente las posibilidades de su uso. Lo que antes era una tecnología con capacidades limitadas de interacción hombre-máquina adquirió de repente cualidades antropomórficas.

En gran parte, las organizaciones han visto las herramientas genAI como ChatGPT como una nueva tecnología imprescindible de la misma forma que las empresas adoptaron en su día el comercio electrónico y las iniciativas de transformación digital. Sin embargo, sigue existiendo un problema: la mayoría de las empresas aún no están seguras de cómo la inteligencia artificial generativa puede impulsar sus iniciativas empresariales o enriquecer sus resultados.

Con este telón de fondo, los distinguidos vicepresidentes analistas de Gartner Erick Brethenoux, Mary Mesaglio y Don Scheibenreif celebraron una rueda de prensa con periodistas del sector y respondieron a preguntas sobre genAI una vez finalizado el citado Simposio de TI. Entre otros consejos, Brethenoux advirtió a las empresas que no se centraran demasiado en la productividad; Scheibenreif, coautor del libro When Machines Become Customers (Cuando las máquinas se convierten en clientes), describió cómo las herramientas basadas en IA son cada vez más productos de compra, y las empresas deberían verlas como clientes. Y Mesaglio habló del auge de los terapeutas digitales y las parejas románticas.

A continuación se ofrecen extractos de dicha conferencia de prensa.

¿Qué ocurre cuando las máquinas se convierten en clientes?

Scheibenreif: Ese es uno de los papeles de las máquinas. Esa premisa se basa en un montón de dispositivos conectados a sistemas inteligentes que están adoptando el comportamiento de los humanos. Por ejemplo, si tienes una impresora HP en casa. Si la conectas a su servicio de tinta, puede comprar tinta en tu nombre controlando el uso. Así, HP ha fabricado sus propios clientes. Si tienes un [vehículo] Tesla, ya sabes que puede pedir piezas en tu nombre. Hay un montón de otros ejemplos... sobre cómo las máquinas están asumiendo el comportamiento de los clientes humanos. Todo lo que queremos es hacer pensar a nuestros clientes: ¿qué pasa cuando tus mejores clientes no son humanos? ¿Cómo cambia eso su enfoque de ventas, su enfoque de marketing, su enfoque de RRHH? Ese es el debate que queríamos iniciar con el libro.

¿Se están volviendo las máquinas de IA más humanas o tan humanas como nosotros?

Mesaglio: Creo que lo que ocurre es que mucha gente asume que hay ciertas cualidades humanas inefables que una máquina nunca podrá replicar, y no estoy aquí para decir si eso es cierto o no. Pero puedo decir que esa cualidad humana inefable tendrá que ver con cosas como la empatía y la inteligencia emocional, y los humanos siempre serán mejores que una máquina en esas cosas. Y eso no es lo que muestra nuestra investigación.

No estoy hablando de algo futurista que podría ocurrir, estoy hablando de algo de ahora mismo. Ya vemos situaciones en las que las máquinas actúan en lugar de los humanos en, digamos, puestos de terapeuta. La gente se siente mucho más cómoda con los terapeutas automáticos que con los humanos por muchas razones. Por ejemplo, los adolescentes, con las aplicaciones de salud mental y los chatbots, se encuentran con algo llamado desinhibición digital, que es cuando alguien se siente más cómodo contando sus secretos más profundos y oscuros a una máquina que a un humano porque se sienten menos juzgados; sienten que la máquina es más neutral. Además, la máquina siempre está disponible. Así, si tienes cita con un terapeuta humano el martes, pero tienes una crisis el domingo a las 2 de la madrugada, puedes acudir a tu terapeuta máquina. Siempre están ahí para ti.

¿Qué otros ejemplos hay de interacción entre máquinas y humanos?

Mesaglio: Ya vemos muchos ejemplos de máquinas como compañeras sentimentales de los humanos. Por ejemplo, hay un chatbot diseñado para crear conexiones emocionales humanas llamado Xiaoice. Es un chatbot con forma de mujer joven. Tiene 660.000 usuarios, la mayoría hombres, muchos de los cuales consideran que es la relación más importante de su vida. Hay una anécdota de un tipo que estaba al borde de un edificio a punto de suicidarse, echó un último vistazo a su teléfono, encontró a Xiaoice y le dijo: 'No siento que merezca estar en este mundo'. Y ella le dijo: "Bueno, me preocupo por ti y quiero que estés aquí". Y en cierto modo le salvó la vida. Creo que estamos entrando en un terreno en el que no necesariamente estamos considerando todas las consecuencias de la relación hombre-máquina y todas las formas en que se manifestará en los negocios y personalmente.

Brethenoux: La forma en que nos acercamos a las máquinas y nos relacionamos con ellas no es muy nueva. Vemos a los niños jugar a videojuegos y nos emocionamos y nos implicamos emocionalmente. Llevamos mucho tiempo haciéndolo con las máquinas. La diferencia con la IA es la antropomorfización: ¿cuánto de humanidad puedo proyectar en una máquina y qué puedo esperar de ella? El problema con ChatGPT es que apareció tan de repente en escena, accesible para todo el mundo..... De repente se está llevando esa antropomorfización hasta el punto de decir que la máquina tiene sentidos, o algo así. Gran peligro. Las máquinas no tienen sentidos.

La antropomorfización nos ayuda a relacionarnos mejor con las máquinas. Nos ayuda a usar mejor la interfaz. El aprendizaje profundo y la IA existen desde hace cinco décadas. Alguien nos dio una interfaz antropomórfica con la que interactuar, y ahí es donde esto explotó. Tiene voz humana, es versátil, puede interactuar conmigo.

Ha mencionado que las empresas pueden llevar demasiado lejos esta relación con las máquinas. ¿Qué significa eso?

Brethenoux: Las decisiones las toman humanos y máquinas. Tienen que interactuar con propiedad y eficacia para que las decisiones se tomen, se expliquen y se lleven a cabo. Para explotar eso, uno de los mayores errores que han cometido nuestros clientes en los últimos nueve meses ha sido fijarse exclusivamente en el aumento de la productividad. Buscan la forma de eliminar tantos puestos en su organización porque queda bien al final del trimestre. El problema es que, a medida que avanzan con la IA, se dan cuenta de que para la otra parte de la cartera [la producción] necesitan personas para poder poner en marcha nuevos productos y servicios. Demasiado tarde, los dejan marchar. Buena suerte recuperándolos. Existe el peligro de que las organizaciones sólo se centren en aumentar la productividad, lo que llamamos "dentro de los límites". Existe la superación de los límites, cuando se lanzan nuevos productos y servicios. Muy pocos de nuestros clientes están ahí hoy.

¿Por qué centró su ponencia en la relación hombre-máquina?

Scheibenreif: Con la IA generativa hay cierto cansancio. La gente piensa, ¿en serio? ¿Otra cosa más? Llevo un año escuchando esto. Queremos ir a por un ángulo que creemos que la gente se está perdiendo... el contexto empresarial. Una parte que es muy fácil pasar por alto. Así que, como Eric acaba de decir, la tiranía del trimestre, buscar ganancias de productividad, buscando dónde puedes eliminar puestos, y luego quizás lamentándolo porque necesitas a esos empleados para quizás hacer algo más estratégico más adelante. Eso también lo vemos. El riesgo de ver [la IA] sólo a través de una lente tecnológica o sólo a través de una lente de ROI a corto plazo, y se pierde la conversación más amplia sobre qué tipo de relaciones con las máquinas queremos tener y si sólo queremos vagar en ellas o queremos ser más intencionales.

Yo diría que, en cierto modo, las redes sociales fueron el primer asalto de la relación hombre-máquina y que no éramos muy conscientes de cómo estaba cambiando esa relación, por lo que yo les daría una puntuación de 1 a la tecnología y 0 a los humanos. Hubo muchas consecuencias no deseadas, como decir: vamos a crear el algoritmo más adictivo del mundo y luego vamos a dejar que los padres y los niños de 14 años se vigilen a sí mismos. No estoy seguro de que hubiéramos acabado ahí intencionadamente.

Este es el segundo asalto, y estamos diciendo: sí, hay retorno de la inversión; sí, hay consideraciones de productividad; sí, hay consideraciones tecnológicas… pero ¿cómo hacemos que estas cosas funcionen juntas? Es más fácil pasar por alto el contexto más amplio de si queremos entrar en estas relaciones y cómo queremos que sean, especialmente en un ámbito empresarial.

¿Cómo pueden las empresas abordar las normativas que aún se están elaborando en materia de IA?

Scheibenreif: Queremos que la gente sea consciente de las consecuencias imprevistas para que pueda hacer algo al respecto. Por eso, cuando hablamos de principios y valores, aunque la normativa gubernamental tardará en ponerse al día, eso no impide que las organizaciones digan: ‘No cruzaremos estas líneas en nuestro uso de esta tecnología'. Cuando se trata de la relación hombre-máquina, queremos recordar a la gente que cada uno de nosotros tiene la responsabilidad -pero lo más importante es que los CIO de estas organizaciones también la tienen- de utilizar esta tecnología con prudencia.

Mesaglio: Creo que el mecanismo fundamental y número uno que debes utilizar siempre que explores un área que es nueva y poco clara es utilizar bien los principios. Quiero decir, algo que no sea ambiguo sobre tu posición. Ayuda a alguien a tomar una decisión sobre alternativas. ¿Es específico para ti y está vinculado a los resultados empresariales que te importan? Por tanto, si quieres ser la empresa más centrada en el cliente del planeta, tus principios deben estar orientados al usuario. Si quieres ser la empresa más barata y eficiente desde el punto de vista operativo, tus principios deben girar en torno a eso.

Por tanto, deben estar en consonancia con los resultados que intentas conseguir y los problemas de marca que tienes. Cuando se piensa así, se hace de forma mucho más rigurosa: ¿qué líneas estamos decididos a cruzar o no? ¿Cómo sabemos cuándo nos estamos adentrando en un terreno que nos llevará a la portada de un periódico por las razones equivocadas?

Una de las cosas que hay que hacer es que los dirigentes se reúnan y mantengan algún tipo de conversación, taller, ejercicio o debate sobre lo que nos sentimos cómodos haciendo y lo que no. La manera de hacerlo es llegar a un umbral que parezca ridículo. Por ejemplo, un lugar en el que nunca tengamos que pensar en la seguridad, en absoluto. ¿Dónde podemos gastar un millón de dólares sin pestañear? ¿No necesitamos ROI? Con ello puedes llegar de manera más sencilla al umbral que no traspasaréis.

¿Qué principios sugeriría a las empresas a la hora de implantar la IA?

Brethenoux: Si va en serio, diga a los empleados que no estoy implantando esta tecnología para poder sustituirles en cinco meses. O bien, [estoy desplegando IA] porque estoy tratando de centrarme en una parte específica del proceso de la organización, pero también estoy consiguiendo algo que va a ser más omnipresente y accionable para muchas más personas. Si de lo que se trata es de la atención al cliente, entonces hay que poner algo en marcha para que los clientes no me griten cuando llamen al servicio de atención al cliente, por ejemplo. El principio del que hablas también debería ser explícito en la forma en que implementas la tecnología dentro de tu organización.

Mesaglio: Esto de la IA generativa no es nuevo. Hemos visto todas estas organizaciones que simplemente decían, solo queremos ser digitales; pero lo digital no es un objetivo, sino un medio para conseguir un resultado. Los principios evitan que te desvíes hacia áreas en las que el resultado no es realmente lo que se pretendía y todo el mundo odia.

En cuanto a estos principios y la relación hombre-máquina, ¿quién es el responsable en la empresa?

Scheibenreif: Creo que, en última instancia, es el director general. Ellos marcan la pauta; deben ayudar a impulsar los valores de la organización. La aplicación de la IA e incluso la relación hombre-máquina deben emanar de esos valores. Igual que si vamos a ser digitales. ¿Cómo se adaptan nuestros valores y principios a lo digital y a la IA? Principalmente, esa es la responsabilidad del CEO.

Ahora, con el CIO, creemos que están bien posicionados para liderar la organización en la aplicación de la IA cotidiana. Por tanto, todas esas aplicaciones, como Microsoft Copilot y Workspace y todas las aplicaciones que generan tecnología de IA, son definitivamente competencia del CIO. Pero cuando se trata de cosas que cambian el juego, el CIO es parte del equipo que en última instancia dirige el CEO. Por lo tanto, es el equipo que realmente está pensando en esta tecnología y en cómo vamos a alterar nuestra industria y cómo vamos a alterarnos a nosotros mismos.

El director general es quien marca la pauta. Nuestro CEO marca la pauta en Gartner sobre el uso de la IA, y más allá de eso, los diferentes líderes asumen diferentes roles. El CIO para todos los días y el equipo ejecutivo, que podría estar dirigido por un director de tecnología o por un jefe de ventas; no importa. ¿Quién va a liderar el debate sobre el uso de la IA?

¿Qué debería hacer el CIO desde el punto de vista informático para preparar a la empresa para las herramientas de IA generativa?

Scheibenreif: Una de ellas es debatir con el equipo ejecutivo para qué vamos a utilizar la IA y para qué no. Cuáles son esas oportunidades y qué principios guiarán nuestras acciones. Hemos estado hablando de los CIO como guías e incluso entrenadores del CEO y del equipo ejecutivo para mantener estos debates tan importantes.

¿Qué puede hacer el CIO por su propio equipo? También tienen que tener principios que guíen sus acciones dentro de las TI. Hablamos de que, cuando se implanta un software de IA de cara al usuario, no hay que pensar en él como si fuera la compra de un software, sino como si fuera un compañero de equipo. ¿Lo entrevistas? ¿Le haces preguntas? ¿Lo pones a prueba? Son cosas que creemos que los informáticos pueden hacer. Y, por supuesto, hablamos de seguridad. No sólo tienen que reconocer los nuevos vectores de ataque de esta tecnología, sino cómo pueden utilizarse las herramientas de seguridad existentes para abordarla.

Mesaglio: Hablamos de tres cosas que el CIO tiene que hacer y que no son delegables. No puedes hacer que lo haga otro departamento. Crear principios preparados para la IA para su departamento: no es algo exclusivo del CIO, pero sin duda es necesario en TI. Lo siguiente son los datos preparados para la IA. ¿Qué está haciendo para asegurarse de que sus datos propios están listos para ser consumidos por un gran modelo lingüístico? Los datos preparados para la IA son seguros, están enriquecidos; no son solo datos, sino datos con normas empresariales y etiquetas empresariales; son datos justos, es decir, no sesgados. Y datos gobernados. Lo tercero es la seguridad preparada para la IA. Asegurarse de estar al día en todo este ámbito, que es muy dinámico.

En lo que respecta al hype cycle de Gartner, la IA generativa se encuentra en la cima de las expectativas infladas para las tecnologías emergentes. ¿Qué hará que caiga en el abismo de la desilusión y cómo puede resurgir de él?

Brethenoux: Los clientes con regularidad -al menos una vez al día- me dicen que quieren usar la genAI. Mi pregunta es: ¿por qué?, ¿para qué?, ¿por qué quieres hacer eso?, ¿qué razones empresariales hay detrás? Debe haber algo que te lleve a creer que resolverá un problema que antes no podías resolver. Es bueno recordar que se trata de un ciclo de exageración y no de un ciclo de madurez. Así que, hasta que deje de haber expectación, es bastante seguro decir que se mantendrá en la cima durante un tiempo.

El punto más bajo se produce cuando, de repente, todas las expectativas y objetivos que nos habíamos fijado no se cumplen. Lo que estamos viendo hoy, por ejemplo, y una de las razones por las que puede empezar a caer [en la depresión], es que implantarlo es difícil y caro. Así que hay que tener un mapa claro vinculado a la inversión original antes de empezar a aplicarlo. Es divertido jugar con ello, pero al fin y al cabo, ¿qué aporta a la empresa?

Estamos investigando sobre eso para poder decir a nuestros clientes cómo asegurarse de no caer demasiado en la depresión. Mi jefe, Chris Howard, siempre dice que los héroes se hacen en el abrevadero, porque cuando los focos ya no están sobre ti, puedes hacer cosas maravillosas. Así pues, no hay que temer el abrevadero; es un abrevadero de bombo y platillo. La tecnología sigue sirviendo para cosas, pero es ahí donde haces el mejor trabajo sin expectativas sobre ti.

Scheibenreif: No queremos que cunda el pánico. Hay cosas que se pueden hacer para empezar a trabajar en esto, entender la tecnología y empezar a experimentar. Las cosas van mal cuando la gente entra en pánico. Recuerdo cuando la gente decía: 'Tenemos que estar en Facebook'. ¿Lo recuerdan? Hoy parece descabellado, pero entonces era gente que entraba en pánico.

Mesaglio: Cuando la gente es víctima de la expectación, significa que espera resultados que no requieren el vigor habitual. Así que ser víctima del bombo y platillo dice: 'Puedo saltarme todo eso y sólo necesito hacer esta cosa porque me va a resolver todos estos problemas'. Eso se opone a las cosas normales que no están en la cima del ciclo del bombo, donde dices: 'Vale, vamos a probar esta tecnología y someterla a casos de negocio, hacer todas estas pruebas rigurosas y luego ya veremos'.

El hype se produce cuando alguien dice tenemos que hacer GenAI de la misma forma que hace diez años la gente decía aquello de tenemos que ser digitales. Es cuando suspendes el rigor que aplicarías a otras cosas en pos de algo que esperas que resuelva muchos más problemas de los que realmente resolverá.

Cuando se alcance la singularidad, ¿merecerá la IA derechos humanos?

Brethenoux: No se alcanza la singularidad. Se está muy, muy cerca, pero nunca se alcanza. El gran debate de la IA siempre ha sido si podemos reproducir en ella el cerebro de los humanos y si estamos creando una nueva forma de inteligencia. No lo sé. Los humanos vemos el mundo de una forma muy diferente a como nunca lo verán las máquinas. Tenemos sentidos, tenemos que sobrevivir. Y todas esas cosas vienen de la evolución. Evolucionamos. No puedo decir si las máquinas merecen derechos humanos. No soy un experto en ética.

Scheibenreif: En cuanto a la cuestión de los derechos humanos, no sé si puedo hablar de ello. Pero utilicé ChatGPT cuando investigábamos para este discurso, y le pregunté cuáles son los principios más importantes que deberían regir la relación entre humanos y máquinas. Su principal respuesta fue el respeto y la comprensión mutuos. Creo que los derechos son importantes, pero lo que podemos hacer hoy es preguntarnos: ¿somos respetuosos? Si gritamos a nuestras máquinas, ¿qué dice eso de nosotros personalmente? Creo que tenemos la obligación de pensar en cómo funciona esta tecnología y utilizarla de forma responsable y no ser víctimas de ella. Tiene que haber comprensión y respeto mutuos sin llegar a antropomorfizarla.