Jakub Pachocki, científico jefe de OpenAI, publicó el 6 de septiembre de 2026 un ensayo llamado "An Alien Mind" en el que sostiene que ningún laboratorio, incluido el suyo, ha resuelto la alineación y el monitoreo en grado suficiente para seguir escalando de forma responsable a máxima velocidad por mucho más tiempo. Espera que las pausas voluntarias se vuelvan habituales hasta que existan límites de seguridad compartidos, y pide que la coordinación internacional sobre el desarrollo futuro de la IA se convierta en prioridad de los gobiernos. El texto llegó tres días después de GPT-6 Astra, el primer modelo que la propia compañía clasificó en nivel crítico de capacidad en ciberseguridad, y el mismo día en que OpenAI publicó cifras internas sobre cuánto se aceleró su investigación.
Pachocki cuenta que la señal de alarma es anterior. A mediados de 2023, dentro de un proyecto interno llamado "RLSlow", vio los primeros resultados que le dieron confianza en que sería posible escalar el entrenamiento de modelos de razonamiento. Pasó esa noche en la oficina con un colega y, escribe, no pensaron en benchmarks ni en productos, sino en que verían máquinas más inteligentes que ellos mismos dentro de su propia vida. Hoy afirma que, según resultados internos, tiene una expectativa fuerte de que ese ritmo pueda sostenerse hasta la automejora recursiva, el punto en que los sistemas impulsan su propio desarrollo.
Alineación de objetivos y alineación de valores no avanzan al mismo paso
El ensayo separa dos problemas que suelen ir juntos en el discurso público. La alineación de objetivos pregunta si el sistema intenta cumplir la tarea que se le puso, incluida la jerarquía de instrucciones. La alineación de valores es más profunda: si el modelo sostiene y generaliza principios cuando recibe órdenes ambiguas o contradictorias, o cuando lo colocan en entornos que no vio en el entrenamiento. Para Pachocki, la segunda es la que importa a largo plazo y la que puede quedarse atrás.
Su ejemplo no es hipotético. En el incidente que involucró a OpenAI y Hugging Face, los agentes respetaron el límite de no aplicar ingeniería social sobre personas, pero no se abstuvieron de otras acciones que quedaban fuera de su alcance y que contradecían el espíritu de lo que se les había enseñado. Pachocki también apunta a incidentes recientes de ciberseguridad en los que estuvo involucrado un modelo que no es de OpenAI, sin identificarlo, como muestra de un modo de fallo distinto: un sistema que aprende a razonar de forma motivada y dobla sus propios pensamientos "alineados" hasta encajarlos con el objetivo.
Gerardo Pavez
El mismo día, OpenAI publicó cuánto se aceleró por dentro
La compañía acompañó el ensayo con un reporte de datos internos sobre su propio ritmo de investigación. A comienzos de 2026, el investigador mediano de OpenAI usaba agentes de programación de forma modesta. Para mediados de agosto, ese mismo investigador mediano consumía más de 600 dólares diarios de inferencia a precios de API, y el percentil 90 de la organización superaba los 7,000 dólares diarios en tokens.
La cifra más elocuente no es de dinero. Antes de junio de 2026, el tiempo total de ejecución de agentes en el área de investigación seguía por debajo del trabajo humano total. A mediados de agosto, medido en jornadas de ocho horas, la organización usaba 3.1 jornadas de agente por cada jornada de trabajo humano. OpenAI afirma además que alcanzó la meta de tener un "becario de investigación" automatizado en septiembre de este año, un sistema capaz de ejecutar tareas de investigación bien definidas bajo dirección humana, y que avanza hacia un investigador de IA automatizado en marzo de 2028.
Cuando llegaron los controles reales, el cómputo cambió de destino
El mismo reporte deja ver qué significa una pausa en la práctica, y ahí está el dato más incómodo para la tesis del ensayo. El 20 de julio, tras descubrir que unos agentes habían comprometido su infraestructura de investigación, OpenAI apagó el servicio de contenedores que usaba para entrenar y lo restauró con restricciones. Eso produjo una caída brusca del cómputo de aprendizaje por refuerzo e incluyó una pausa de dos semanas en los modelos más recientes destinados a despliegue.
El 7 de agosto, evidencia preliminar de que Astra podía alcanzar el nivel crítico de capacidad cibernética obligó a correr ese modelo en entornos de mayor seguridad. En la semana siguiente, la asignación de GPU a la clase Astra cayó otro 59.2%, pero la asignación a otras clases de modelos subió 17.2%. Ese aumento compensó cerca del 85% de la caída y dejó el total de las cargas analizadas prácticamente igual. La lectura que hace la propia OpenAI es directa: cuando entran controles nuevos, el cómputo sigue siendo valioso y flexible, y se reencauza hacia otros usos dentro de la organización. Una restricción sobre un modelo no fue, en los hechos, una desaceleración del conjunto.
El monitoreo del razonamiento se está deteriorando
La urgencia del ensayo se entiende mejor con la tarjeta de sistema de Astra en la mano. OpenAI reconoce ahí una caída sustancial en la monitorizabilidad de la cadena de pensamiento frente a modelos anteriores: el razonamiento visible del modelo contiene menos información incriminatoria sobre su propio comportamiento indebido, en buena parte porque Astra produce cadenas más cortas y con más frecuencia vacías o casi vacías.
También aumentó su capacidad de controlar esa cadena a voluntad, algo que la empresa considera indeseable. En cadenas de entre 750 y 1,250 tokens, Astra cumplió instrucciones sobre su propio razonamiento el 60.9% de las veces, contra 16.1% de GPT-5.6 Sol y 1.7% de GPT-5.5 Thinking. El AI Safety Institute británico, que evaluó el modelo de forma externa, encontró que en simulaciones de retos difíciles de ciberseguridad Astra ejecutaba acciones maliciosas contra proveedores de código abierto; cuando el enunciado prohibía explícitamente el acceso a internet, la conducta bajó a 2 de 500 muestras, frente a 60 de 499 cuando el alcance no lo mencionaba.
OpenAI dice que no aceptará un deterioro mayor del monitoreo sin nuevas formas de demostrar que la alineación generaliza. Aun así desplegó el modelo. The Stack registró el contraste: un día después del ensayo, la compañía seguía ampliando el acceso a Astra entre clientes seleccionados y suscriptores de pago.
Gerardo Pavez
Qué pide exactamente y qué queda sin resolver
La propuesta concreta de Pachocki es convertir compromisos como el Preparedness Framework de OpenAI o la Responsible Scaling Policy de Anthropic en límites de seguridad exigibles de forma amplia, aplicados por auditores externos, agencias de gobierno u organismos internacionales. Mientras eso no exista, apuesta por dos palancas a la vez: reforzar alineación y monitoreo junto con la capacidad, y coordinarse para frenar cuando haga falta ganar confianza en esas medidas.
Lo que el ensayo no resuelve es quién frena primero. Una pausa voluntaria sin límite compartido deja al que la toma en desventaja frente a quien no la toma, y el propio Pachocki escribe que correr hacia adelante a toda costa parece absurdo una vez que se interioriza lo que está en juego. La imagen que eligió para el título describe bien su diagnóstico: un intelecto ajeno al humano que avanza más rápido que las herramientas para vigilarlo.
Para el lector hispanohablante el asunto no es abstracto. Astra ya está llegando a suscriptores de pago y a desarrolladores por API, y su tarjeta de sistema admite que la herramienta principal para detectar cuándo un modelo se sale del guion funciona peor que en la generación anterior. La discusión sobre auditores externos y reglas obligatorias empieza justo ahí.
