Los grandes gurús de la IA aseguran que esta tecnología "puede conducir a la extinción de la humanidad"

La inteligencia artificial (IA) podría conducir a la extinción de la humanidad. Esta contundente frase supone el principal aviso de una breve misiva que han firmado docenas de expertos, entre los que se encuentran los máximos mandatarios de OpenAI (Sam Altman), Google DeepMind (Demis Hassabis) y Anthropic (Dario Amodei), y que se ha publicado en la página web del Centro para la Seguridad de la IA. “Mitigar este riesgo debería ser una prioridad global, junto con otros desafíos a escala social como las pandemias y la guerra nuclear”, aseguran.

El escrito también lo respaldan otras personalidades como el exdirectivo de Google, y apodado ‘padrino’ de la IA, Geoffrey Hinton y Yoshua Bengio, profesor de informática en la Universidad de Monreal. Además, la página donde se ha lanzado el documento sugiere una serie de posibles escenarios de desastre, como la creación de armas y armas químicas, la desinformación, que puede “socavar la toma de decisiones colectiva”, o que el poder de esta tecnología se concentre cada vez en menos manos, lo que permitiría a los regímenes “imponer valores limitados a través de una vigilancia generalizada y una censura opresiva”.

En sus últimas comparecencias, Altman (OpenAI, desarrolladora de ChatGPT), ya avisó de la importancia de regular los grandes modelos de IA y mostró su preocupación por su capacidad para manipular procesos electorales.

Sin embargo, muchos otros expertos creen que estos temores son exagerados, y el debate abre una brecha cada vez más profundas mientras bloques geopolíticos como la Unión Europea (UE) se preparan para lanzar legislaciones.