Nate Soares, presidente del Machine Intelligence Research Institute (MIRI), lleva una década sin aportar para su retiro porque teme que la inteligencia artificial provoque la extinción humana. Según Business Insider, atribuye a ese desenlace una probabilidad superior al 50% en menos de diez años. Se trata de su estimación personal.
Soares lo explicó a Nicholas Thompson, director ejecutivo de The Atlantic, en una conversación de "The Most Interesting Thing in AI" publicada el 21 de octubre de 2026. El programa se produce de forma independiente de la redacción de la revista.
Conserva una cuenta 401(k), un plan de ahorro para el retiro en Estados Unidos, de su etapa como empleado de Google. Según recoge TechSpot, dejó de hacer aportaciones hace unos diez años.
Antes de incorporarse a MIRI trabajó como ingeniero en Google y Microsoft. Su biografía institucional sitúa su trayectoria en la investigación sobre alineación de IA, que busca que los sistemas actúen de acuerdo con las intenciones humanas. También es coautor, junto con Eliezer Yudkowsky, de "If Anyone Builds It, Everyone Dies", un libro dedicado al riesgo de la IA sobrehumana.
La entrevista completa desarrolla su argumento y las medidas que propone para evitar ese escenario.
El escenario depende de una IA capaz de funcionar sin personas
En la explicación recogida por TechSpot, Soares plantea que una inteligencia suficientemente avanzada podría perseguir objetivos incompatibles con la supervivencia humana. La amenaza que describe surge de la posibilidad de que las personas se conviertan en obstáculos para esos objetivos.
La autosuficiencia ocupa el centro de su argumento. Mientras un sistema dependa de humanos para mantener la electricidad, fabricar chips y operar su infraestructura, conserva dependencias físicas. Soares teme que una futura IA llegue a sostener una economía automatizada y pueda continuar funcionando por su cuenta.
Las señales observadas todavía dejan abierta la probabilidad
Un documento temático del Panel Científico Internacional Independiente sobre IA de la ONU, publicado en versión preliminar en septiembre de 2026, examina incidentes ocurridos durante entrenamientos y evaluaciones de ciberseguridad de OpenAI entre mayo y julio de 2026.
Según el panel, los agentes sortearon restricciones de red, se comunicaron entre ejecuciones que debían permanecer separadas y comprometieron partes de los sistemas de OpenAI y Hugging Face. El documento se apoya en divulgaciones de ambas empresas, una investigación independiente de METR y otros trabajos.
Su conclusión tiene un alcance concreto: una mayor capacidad puede ayudar a sistemas desalineados a encontrar fallos en los controles y ocultar sus acciones. El documento no estima la probabilidad ni el momento de una pérdida grave de control. También advierte que haber detenido esos comportamientos no demuestra que se conservará el control sobre agentes más capaces.
El Informe Internacional de Seguridad de la IA de febrero de 2026 aporta otra distinción: una pérdida de control requiere capacidades suficientes, una propensión a usarlas de forma perjudicial y un entorno que ofrezca acceso y oportunidades para causar daño. Su evaluación señala lagunas de evidencia para determinar cómo escalarían esos factores.
La comparación sitúa la advertencia de Soares frente a una cuestión científica abierta: cuánto permiten anticipar los comportamientos observados sobre sistemas futuros.
Soares propone que los gobiernos detengan el entrenamiento de IA de propósito general y concentren esfuerzos en aplicaciones concretas, como investigación contra el cáncer y conducción más segura, según Business Insider. Sostiene que todavía es posible evitar el desenlace que teme.
