Destino, febrero 2026
Si alguien la crea, todos moriremos, de Eliezer Yudkowsky y Nate Soares, por qué la carrera por construir una IA superinteligente (SIA) es una amenaza para la humanidad.
Por qué en la carrera por construir IA superinteligente, la única jugada ganadora para nuestra especie es no jugar. Un llamamiento a la humanidad de la mano de dos de los principales pensadores sobre los riesgos de la IA, Eliezer Yudkowsky y Nate Soares.
En 2023, cientos de expertos en IA firmaron una carta abierta en la que advertían que esta tecnología supone un grave riesgo de extinción para la humanidad. Desde entonces, la carrera por la IA no ha hecho más que intensificarse, y las empresas y los países se apresuran a construir máquinas que aspiran a ser más inteligentes que cualquier persona.
Entre sus firmantes se encontraban Eliezer Yudkowsky y Nate Soares, creador y director respectivamente del Machine Intelligence Research Institute (MIRI), una institución sin ánimo de lucro que lleva trabajando en temas relacionados con la SIA desde 2001, mucho antes de que estas cuestiones recibieran atención pública o financiación. La carta también contó con el apoyo de otros expertos españoles como Ramón López de Mántaras, uno de los investigadores en IA más reconocidos en España; Helena Matute, catedrática de Psicología Experimental en la Universidad de Deusto; y Juan Antonio Fernández Madrigal, catedrático de Ingeniería de Sistemas y Automática en la Universidad de Málaga.
Durante décadas, Yudkowsky y Soares han estudiado cómo pensarán, se comportarán y perseguirán sus objetivos las inteligencias más avanzadas, una investigación que ahora plasman de forma clara, accesible y sin fatalismos en el ensayo Si alguien la crea, todos moriremos, donde aportan un discurso completamente rompedor sobre la actualidad de la IA.
Según los autores, las IA suficientemente inteligentes desarrollarán objetivos propios que las pondrán en conflicto con los humanos y, si se produce ese conflicto, una SIA podría llevarlos a la extinción.
Si alguien la crea, todos moriremos esboza la ciencia que subyace a la preocupación de sus autores. Con un lenguaje sencillo, acercan al lector el proceso de creación de las IA, esclarecen si estas pueden desarrollar deseos y debaten sobre los perversos incentivos que impulsan la actual industria de la IA.
0 Comments