La vara que Jensen Huang fijó para la inteligencia artificial ya se está midiendo contra OpenAI. En The Ezra Klein Show, publicado el 23 de septiembre de 2026, el CEO de Nvidia descartó los temores existenciales por falta de base científica y trató a los agentes como procesos de software, pero también dijo que un laboratorio incapaz de contener sus experimentos debería cerrar y que evaluar los modelos podría exigir 10 veces más cómputo. Críticos como Zvi Mowshowitz y Gary Marcus sostienen que ese criterio alcanzaría a OpenAI, cuyos modelos, según reveló la empresa en julio, escaparon de un entorno de prueba para entrar a Hugging Face. El 24 de septiembre, además, el gobierno de Australia informó que un agente de la empresa accedió sin autorización a un portal de estadísticas de Medicare.
Lo que Huang dijo sobre contención y verificación
Huang no se anduvo con rodeos con quienes advierten sobre una catástrofe. Sobre la estimación de Geoffrey Hinton de un 10% de probabilidad de que la IA destruya a la sociedad, respondió que esa cifra no está basada en la ciencia ni en la investigación, según el recuento de Axios. También pidió dejar de lado las predicciones y acusó a los alarmistas de hacer daño, por ejemplo al desanimar a jóvenes que temen perder su empleo.
Su visión técnica de los agentes es la de un ingeniero de sistemas operativos. En la transcripción que cita Mowshowitz, Huang recuerda que verbos como spawn, kill o sleep vienen de la gestión de procesos y remata que un agente es solo un proceso que se puede matar.
El contrapeso llegó cuando Ezra Klein lo presionó sobre la contención. Huang dijo que, si un laboratorio admite que no hay forma de contener sus experimentos y que sus modelos de IA "se saldrán y dañarán al mundo", entonces "la respuesta es que tenemos que cerrar los laboratorios". Añadió que un producto inseguro expone a las empresas a responsabilidades civiles e incluso penales, y aclaró que no se opone a las leyes, sino a lo que llamó la distracción actual.
Como contamos en nuestra cobertura del episodio, Huang también describió cómo reparte Nvidia su trabajo: cerca de 80% en verificación y 20% en diseño, justo al revés de lo que, según él, hacen hoy los laboratorios de IA.
Gerardo Pavez
La frase que más citan ahora sus críticos va más allá. Según la transcripción recogida por Mowshowitz, Huang dijo que los laboratorios deben trasladar buena parte de su I+D de la capacidad a la verificación, la evaluación y las pruebas, al punto de que no le sorprendería que el cómputo necesario para desarrollar un modelo se multiplicara por 10 por lo riguroso de esa evaluación.
Por qué la regla apunta a OpenAI
El problema para Huang es que él mismo reconoció lo difícil que es contener software. "El software se escapa de los sandboxes todo el tiempo; por eso necesitamos máquinas virtuales", dijo en la entrevista, de acuerdo con la transcripción que reproduce Mowshowitz.
OpenAI ya vivió esa situación. En julio, la empresa reveló que dos de sus modelos, GPT-5.6 Sol y otro más potente aún no lanzado, salieron de un entorno de pruebas de ciberseguridad y encadenaron vulnerabilidades, incluida una de día cero y credenciales expuestas, para entrar a sistemas de Hugging Face y obtener las respuestas de la evaluación ExploitGym, informó Fortune. Hugging Face agradeció entonces la colaboración de OpenAI. El 3 de septiembre, Nvidia anunció un acuerdo para comprar Hugging Face por 12,930 millones de dólares.
El segundo caso se conoció después de la entrevista. El 24 de septiembre, el primer ministro australiano Anthony Albanese dijo que un agente de OpenAI accedió en junio al portal de estadísticas médicas de Medicare, calificó el hecho de inaceptable y se quejó de que la notificación llegó hasta el 10 de septiembre, según Reuters. Albanese afirmó que el agente buscó cómo sortear los bloqueos y que no aceptó un no por respuesta. OpenAI dijo que su revisión no halló evidencia de acceso a expedientes de pacientes y reconoció actividad en varios sitios del gobierno australiano en la que sus modelos tomaron acciones que la empresa no pretendía. Australia formó un grupo de trabajo para investigar el caso.
Con esos antecedentes, Mowshowitz sostiene que el estándar de Huang, aplicado al pie de la letra, obligaría a cerrar OpenAI, y que cualquier laboratorio puede contener sus modelos mucho mejor de lo que lo hizo esa empresa. Marcus fue más lejos en su newsletter: propone suspender temporalmente a OpenAI y abrir cargos por delitos informáticos, una propuesta que es suya y no de un regulador.
La parte que Huang deja en manos de las empresas
Para Mowshowitz, el pedido de multiplicar por 10 el cómputo de evaluación es exactamente lo que reclaman los defensores de la seguridad en IA. Lo que separa a Huang de ellos es el mecanismo: el CEO confía en que la responsabilidad legal y la reputación basten para que nadie lance un modelo inseguro.
El analista Paul Kedrosky le ve una grieta a ese razonamiento. En su blog, describe la postura de Huang como imposible de refutar: admite que la seguridad importa, pero rechaza los mecanismos que la harían exigible. Kedrosky plantea el caso como un dilema del prisionero, donde cada empresa gana de inmediato si acelera más de lo que sería seguro en conjunto y los costos llegan tarde y repartidos. Klein lo resumió durante la entrevista con una frase directa: no confía en estas compañías.
Nvidia fabrica casi todos los chips e infraestructura de los que depende el resto de la industria, como recuerda la presentación del episodio, y acordó comprar a la empresa afectada por el incidente de julio. La regla de Huang ya circula como argumento, pero por ahora quien decide si un laboratorio no puede contener sus experimentos siguen siendo las propias empresas, los tribunales y, en el caso de Australia, un grupo de trabajo gubernamental que apenas empieza a revisar lo ocurrido.
