Paul Christiano, miembro del consejo de OpenAI Foundation, dijo en una entrevista publicada el 16 de noviembre de 2026 que ve el riesgo de que la humanidad pierda el control ante sistemas de inteligencia artificial en el plazo de un año más cerca del 10% que del 1%. El investigador habló a título personal y consideró que el riesgo sería sustancialmente mayor si los laboratorios avanzaran a toda velocidad sin adoptar precauciones que retrasaran el desarrollo.
Dwarkesh Patel le preguntó por la posibilidad de que sistemas de IA lleguen a tomar el control o dejen a la humanidad sin poder efectivo para decidir. Christiano dio su estimación al comienzo de la conversación. En el mismo tramo habló de otra posibilidad: que en ese plazo aparezcan sistemas que superen ampliamente a las personas en casi todas las tareas.
Qué mide cada estimación
Christiano calculó en aproximadamente una entre tres las probabilidades de que aparezca una superinteligencia en un año si la industria mantiene el ritmo de desarrollo. Ese cálculo se refiere a la capacidad que podrían alcanzar los modelos. El riesgo cercano al 10% se refiere a la posibilidad de que las personas pierdan el poder de decisión frente a esos sistemas.
Una semana antes, en las Hinton Lectures de Toronto, Christiano había comparado la posibilidad de perder el control con lanzar una moneda bajo el escenario de desarrollo más rápido. En esa charla hablaba de un horizonte de tres años. La entrevista aporta una estimación para un plazo más corto y explica cómo podrían cambiar las probabilidades según las precauciones que tomen los desarrolladores.

En la cobertura de las conferencias también circuló una estimación del 20%. Gizmodo atribuyó esa cifra a Buck Shlegeris, director ejecutivo de Redwood Research. Shlegeris hablaba de la posibilidad de que fallos de alineación, es decir, sistemas que actúan en contra de lo que pretenden sus operadores, alteraran gravemente la vida cotidiana durante el próximo año. Su estimación también abarcaba daños indirectos.
Qué se ha medido en los laboratorios
La preocupación de Christiano parte de la posibilidad de que la IA acelere la investigación necesaria para construir modelos más capaces. En un informe publicado el 5 de noviembre, la organización evaluadora METR estimó que el ritmo de mejora de los modelos de Anthropic en tareas bien delimitadas era aproximadamente el doble del ritmo histórico. La estimación tiene un margen amplio. Según lo que el personal de Anthropic contó a METR, la IA ha acelerado la investigación sobre todo al asistir a los equipos. El informe se concentra en Anthropic y deja abierta la pregunta de cuánto se acelerará el desarrollo en el resto de la industria. Anthropic suprimió buena parte de la evidencia que METR consideraba más informativa.
Christiano dijo que los laboratorios deberían frenar de inmediato ciertos trabajos de mejora de algoritmos que, a su juicio, podrían difundirse con demasiada facilidad con las protecciones actuales. OpenAI Foundation lo nombró integrante de su Comité de Seguridad y Protección en septiembre. En el consejo de OpenAI Group PBC ocupa el puesto de observador sin derecho a voto. Durante la entrevista aclaró que estaba expresando su propia posición sobre qué trabajos deberían detenerse.
