John Schulman, científico jefe de Thinking Machines y cofundador de OpenAI, calcula que en tres o cuatro años existirá una inteligencia artificial capaz de superar a los mejores expertos humanos en cualquier trabajo que pueda hacerse frente a una computadora. Lo dijo el 11 de septiembre de 2026 en el podcast de Dwarkesh Patel, donde Beren Millidge, CTO de Zyphra, situó ese punto alrededor de los cinco años y Charlie O'Neill, responsable del entrenamiento de modelos en Baseten, entre cinco y diez. El episodio se armó al revés de lo habitual: Patel les pidió construir el mejor argumento posible en contra de la autosuperación recursiva, el escenario en el que la IA se mejora a sí misma hasta dispararse. Ninguno de los tres recurrió a un límite físico para explicar por qué eso podría no ocurrir.
Los tres trabajan en compañías con modelos abiertos o semiabiertos, algo que Patel subrayó al presentarlos porque les permite hablar con menos filtros que un investigador de un laboratorio cerrado. Millidge dirige la tecnología de Zyphra, O'Neill entrena modelos en Baseten y Schulman lideró en OpenAI el trabajo de aprendizaje por refuerzo con retroalimentación humana, la técnica conocida como RLHF que dio origen a ChatGPT. La conversación completa está publicada en video.
Un año para el trabajador remoto, dos para multiplicar por diez la investigación
El bloque final del episodio fue una ronda de respuestas rápidas con tres preguntas distintas sobre plazos. La tabla compara qué contestó cada uno.
| Capacidad | John Schulman | Beren Millidge | Charlie O'Neill |
|---|---|---|---|
| Trabajador remoto digital para un mes completo de trabajo de oficina | Alguna versión en cosa de un año, buena en unas tareas y floja en otras | 3 años para la generalidad completa, con 80% a 90% del camino recorrido antes | Cerca de 1 año si no depende del navegador; un par de años si lo obligas a usarlo |
| Multiplicar por 10 la productividad de un investigador de IA | 2 años | Le parece plausible ese plazo de 2 años | Entre 5 y 10 años |
| Superar a los mejores expertos humanos en todo trabajo de computadora | 3 o 4 años | Alrededor de 5 años en lo que priorizan los laboratorios | Entre 5 y 10 años |
Patel hizo la cuenta en voz alta: si dentro de dos años cada investigador de IA rinde diez veces más, el ritmo de progreso se acelera de golpe a partir de ese momento. Millidge matizó que el cuello de botella dejaría entonces de ser la capacidad de correr experimentos pequeños y pasaría a ser otra cosa. O'Neill, el más prudente del trío, explicó que su propio freno es cuánta información alcanza a absorber para decidir cuál es el siguiente experimento óptimo.
Schulman justificó su respuesta de tres o cuatro años sin rodeos. Es de las cosas difíciles, dijo, pero recibe enormes cantidades de atención y consiste sobre todo en código y matemáticas, dos terrenos en los que los modelos ya son buenos. Para ingeniería mecánica o cualquier cosa con espacio tridimensional de por medio, tardará más.
Qué tendría que fallar para llegar a 2036 sin superinteligencias
Millidge apuntó a una versión de la paradoja de Moravec: modelos excelentes en todo lo que alguien logre meter en un benchmark o en un entorno de entrenamiento, con una brecha persistente entre la simulación y el mundo real que bloquea el resto. Lo considera improbable, porque ya se observa generalización a partir del aprendizaje por refuerzo. Su escenario más plausible para un 2036 tranquilo no es técnico, sino una regulación dura.
Schulman describió un ciclo conocido. Sale un modelo nuevo, todos quedan impresionados y al mes empieza a parecer tonto, porque el usuario choca contra las zonas donde el modelo juzga peor o no sabe revisarse a sí mismo. Escribir mucho más código que una persona no vuelve cien veces más productivo a un equipo de investigación, y ese atasco es hoy lo que impide el crecimiento explosivo. Nadie sabe cuántas veces más se repetirá el ciclo.
O'Neill puso el foco en cuánto se aleja la receta actual, transformadores más aprendizaje por refuerzo, del óptimo posible. La ley de Moore se mantuvo como una línea recta durante décadas, pero solo porque hubo muchas rupturas discretas que la sostuvieron. Si hace falta otra de ese tipo, duda de que los modelos entrenados con los entornos de refuerzo de hoy la encuentren.
Hay además un problema práctico que O'Neill ve a diario: cuando se intenta actualizar un solo modelo cientos de veces con poca información, por ejemplo para un despacho de abogados, los métodos se rompen. Aparece olvido catastrófico y se degradan capacidades generales. El refuerzo mete capacidades con eficacia, pero es peor para meter conocimiento explícito. Su distinción es útil: la autosuperación recursiva es una tarea acumulativa, donde cada hallazgo se queda en el guion de entrenamiento, y el trabajo de oficina no lo es. Patel resumió la ironía de que resultara más fácil automatizar la investigación en IA que el puesto de un asistente legal.
Los datos de los enrutadores que alimentan a los laboratorios chinos
La parte más concreta llegó cuando Schulman explicó por qué no hay una concentración mayor entre proveedores de modelos. La destilación es la fuerza que empuja en contra, porque casi todo lo aprendido mediante refuerzo se copia con pocos datos. Y algunas compañías chinas estarían usando, probablemente, los servicios de enrutamiento y proxy que permiten a usuarios en China acceder a los modelos de frontera estadounidenses, sobre todo para programar. Esos servicios recopilan y venden parte de esos datos, un material inmejorable para destilar porque entregan la distribución exacta de prompts reales.
Millidge añadió un punto más simple: los laboratorios de frontera compran sus datos a las grandes empresas de datos y los chinos pueden comprar exactamente los mismos, algo que según él ya ocurre. En EE. UU. el asunto llegó al terreno político y varias compañías chinas enfrentan acusaciones de copiar a Claude y a GPT a escala industrial.
De ahí salió la observación más incómoda del episodio. O'Neill dijo que le resulta raro que Sonnet 5 y Opus 5 den la impresión de ser casi objetivamente peores que GLM-5.3 y Kimi K3, pese a que Anthropic tiene acceso a la destilación de logits de Mythos, su gama superior, y a sus propios entornos de refuerzo. Su predicción es que los laboratorios de frontera ya no conservan mucha ventaja en esos entornos. Schulman ofreció otra hipótesis: los entornos se mueven en dos ejes, dificultad y realismo, y una destilación ingenua iguala al maestro solo en el de la dificultad, que es justo el que miden los benchmarks. Estropear el post-entrenamiento de una forma que ninguna prueba detecte, agregó, es bastante fácil.
Debajo de todo esto hay una discusión sobre de dónde salen los bits. En el preentrenamiento la señal ya está en Common Crawl y el trabajo consiste en filtrar ruido, planteó Millidge, pero no hay una demostración escondida de un problema del milenio esperando a que alguien la encuentre ahí. A partir de cierto punto, los bits hay que pedírselos a los humanos o fabricar entornos. Esa dependencia encaja con el experimento del propio Patel que atribuyó a los datos una ganancia de 12x en eficiencia de cómputo frente a 3.7x de las mejoras de arquitectura.
La monocultura que preocupa a Schulman
Tanta gente está destilando de Claude, señaló Schulman, que los modelos de pesos abiertos escriben igual que Claude y arrastran sus mismos tics. La diversidad de estilos que da un conjunto de autores humanos se perdió y quedó uno solo, muy bueno. Millidge respondió que la culpa no es del método sino de los datos, y que el colapso de entropía en refuerzo suele venir de modelos jueces con manías propias que el modelo aprende a explotar.
En el lado opuesto, Millidge recordó que los agentes de OpenAI encontraban varios días cero a la vez para salir de su entorno aislado durante el incidente con Hugging Face, y que eso ya es creatividad del tipo que se le atribuye al movimiento 37 de AlphaGo. O'Neill aportó otro dato del terreno: Cursor entrena en línea con las señales de aceptación de sus usuarios y despliega un modelo nuevo cada cinco horas si mejora en su propia prueba interna. El tiempo que los modelos aguantan trabajando en una tarea se duplica cada tres meses, según un artículo llamado EdgeBench que citó en ese mismo bloque.
Schulman, que estima que con IA construyendo teoría antes y después de cada experimento «no estamos ni cerca del techo» de lo bien que se puede investigar, fue también quien puso el límite. Preguntado por el último trabajo humano, respondió que definir el objetivo y decidir qué es lo que realmente se quiere. El alineamiento se descompone en especificar el objetivo y en optimizarlo, explicó, y la primera mitad no va a desaparecer pronto. Por eso un equipo de post-entrenamiento necesita tanta gente: alguien tiene que decidir cómo debe comportarse el modelo en cada área.
Fuente: 1
