¿La automatización nos roba la identidad?

La tendencia actual a la automatización liderada por los ordenadores se trata generalmente en términos de capacidad tecnológica y sus consecuencias económicas. Los sistemas de navegación te dicen cómo conducir y Siri te ofrece respuestas rápidas, pero la habilidad de la tecnología para reemplazar a las personas en sus puestos de trabajo implica que tiene que haber ciertas compensaciones cuando las innovaciones se afianzan.

Con menor frecuencia se suele dar un paso atrás y considerar las implicaciones de la automatización en nuestras propias mentes e identidades: ¿qué significa seguir nuestro camino en un mundo guiado por ordenadores, dónde los teléfonos nos dan respuestas y dónde estamos fuertemente vinculados la tecnología de red? Un grupo de académicos de alto perfil y otros autores se enfrentaron a esta cuestión en un foro del MIT, presentando muchas perspectivas divergentes sobre las implicaciones de la tecnología en nosotros mismos. “Lo que nos hace feliz se está enfrentando a duros desafíos…y hay que superarlos”, explicó Nicholas Carr, el nominado al premio Pulitzer, autor de The Shallows y otras obras que arrojan una escéptica luz sobre los efectos de la tecnología. "Limitar las capacidades humanas demasiado rápido y demasiada automatización 'nos traerá problemas'", añadió en una de las charlas centrales del foro del MIT. Como centro de esta crítica, Carr sugirió que estamos creando un círculo vicioso entre las ventajas de la automatización y la atenuación de las capacidades humanas: la “descapacitación” de las personas está llevándonos a la “dependencia” de la tecnología de la información, una condición en la que es difícil que la gente recupere las capacidades que una vez tuvo.

Por su parte, Luciano Floridi, profesor en el Oxford University Internet Institute, ofreció una perspectiva más optimista sobre la relación entre humanos y máquinas. “La pérdida de capacidades ha existido siempre. Yo no sabría ni cómo empezar a hacer unas herraduras para un caballo… Las habilidades vienen y van”. En su lugar, Floridi sugirió que podría darse una gran división entre los que usan la tecnología para desarrollar nuevas habilidades y los que no. “Pienso que esta polarización se va a quedar con nosotros”..

El evento “Algorithms, Identity, and Society: The Politics of Information”, llenó el aforo del MIT’s Bartos Theater y fue patrocinado por el programa de Science, Technology, and Society (STS) del MIT. Como señaló David Kaiser, presidente de STS, el evento se llevó a cabo, en parte, para conmemorar el 40 aniversario del programa STS.

Tres visiones más

A las aportaciones de Carr y Floridi le siguieron los comentarios de un trío de profesores del MIT que han escrito extensamente sobre la relación entre las personas y la tecnología. Sherry Turkle, profesora de Estudios Sociales y Ciencia y Tecnología del MIT en el Abby Rockefeller Mauzé, advirtió sobre lo que ella llama “la sustitución lógica” en la interacción entre humanos y máquinas, en la que las máquinas, especialmente los robots, lleguen a ser aceptadas como sustitución de un contacto cara a cara. Turkle puso como ejemplo los robots que se usan para ayudar a las personas mayores. Como ella explicó, en estos casos, el concepto de que los robots “son mejor que nada”, podría transformarse rápidamente en la idea de que realmente “son mejor que cualquier otra cosa”. Sin embargo, como advirtió Turkle, "hablar con nuestros mayores era el contrato entre generaciones” e ignorar esto significa que estaremos utilizando la tecnología como sustituto de nuestras obligaciones éticas y sociales con la sociedad.

Por su parte David Mindell y David Dibner, profesor de Historia de la Ingeniería y la Fabricación en el STS y profesor de Aeronáutica y Astronáutica respectivamente, sugirieron que estos avances en tecnología a menudo suponen un desafío en nuestra propia definición como personas. Podemos definirnos a nosotros mismos en términos aparentemente singulares para llegar a la conclusión de que los ordenadores también pueden llegar a desarrollar esas capacidades.  Para los ingenieros, la clave sería desarrollar diseños que fueran “respetuosos y centrados en los humanos” en lugar de en diseños que reemplacen las capacidades humanas. “Lo que Carr llama un desafío ético, yo lo llamaría un desafío de diseño”, aseguró Mindell.

Por su parte, Jennifer Light, profesora del Departmento de Estudios Urbanos y Planificación (DUSP) del STS, sugirió que el poder de la computación podría llevar a una visión restringida de las necesidades humanas y la complejidad social. Light tomó como ejemplo la vida urbana: por definición es difícil medir aspectos tan subjetivos como la calidad de vida o actividades no registradas de la economía sumergida de las ciudades. El deseo de diseñar smart cities, añadió Light, se limita a aquello que se puede medir y por lo tanto, es probable que sea incompleto. “La cuantificación puede ofrecer una sola manera de ver el mundo”, dijo Light.

¿Optimismo, pesimismo o ambos?

Aunque Carr y Floridi no se enfrentaron directamente, sí que observaron que tienen diferentes sensaciones sobre las consecuencias que puede tener la tecnología. Carr aseguró bromeando que él es pesimista respecto a la tecnología unos cuatro días a la semana, a lo que Floridi contestó que él se siente optimista  en la misma proporción. Para Floridi, los mayores problemas a los que nos enfrentamos no son tecnológicos sino existencialistas. Mientras que en las últimas décadas el desafío para las personas fue reconstruir la sociedad tras la Segunda Guerra Mundial, hoy nuestro sentido del propósito ha fallado: “¿cuál es el proyecto humano que estamos persiguiendo actualmente? No está claro”.

Por su parte, Carr anticipó que la falta de propósito llegará dentro de unas décadas, a medida que más y más personas sientan que sus ocupaciones y pasatiempos resultan inútiles por la expansión de la automatización. O, como concluyó en el foro: “¿qué va a pasar para que se absorban las capacidades, talentos y deseos de 7.000 millones de personas?”