Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, pidieron el 23 de septiembre de 2026 al Consejo de Seguridad de la ONU que gobiernos e industria acuerden estándares comunes para medir los riesgos de la inteligencia artificial, reportar incidentes y verificar compromisos entre países. Los dos rivales coincidieron en que las decisiones críticas sobre la tecnología no pueden quedar solo en manos de las empresas que la construyen. La respuesta de Washington llegó en la misma sesión: Michael Kratsios, director de la Oficina de Política Científica y Tecnológica de la Casa Blanca, rechazó cualquier estructura de gobernanza global, un día después de que Donald Trump calificara esa idea de "esquema globalista" ante la Asamblea General.
Altman habló en persona ante los 15 miembros del Consejo, en una sesión sobre IA y seguridad internacional que organizó Francia al margen de la Asamblea General en Nueva York. Amodei y Clément Delangue, CEO de Hugging Face, participaron por video. Yoshua Bengio, copresidente del Panel Científico Internacional Independiente de la ONU sobre IA, abrió las exposiciones.
Altman pidió medir, reportar y compartir amenazas
Según la transcripción que publicó OpenAI, Altman planteó un mecanismo de estándares nacionales e internacionales complementarios para la IA de frontera, los modelos más avanzados. Servirían para medir capacidades, evaluar riesgos, decidir si las salvaguardas bastan y conservar una supervisión humana real a medida que los sistemas ganen autonomía. También pidió reportes de incidentes "precisos y rápidos" y canales seguros entre gobiernos, operadores de infraestructura crítica y expertos técnicos para compartir vulnerabilidades.
Le puso un límite a su propia propuesta. Esos estándares, dijo, no deberían blindar a las empresas ya establecidas ni favorecer un modelo de negocio sobre otro, y tendrían que valer para desarrolladores de modelos abiertos y cerrados. Cada gobierno decidiría cómo incorporarlos a su sistema legal.
"Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarlas solo los laboratorios de San Francisco. Deben definirse mediante procesos democráticos y por gobiernos que rindan cuentas ante la gente a la que sirven", dijo Altman.
Sobre el riesgo fue tajante: no importa si alguien calcula la probabilidad de una catástrofe en 10%, 1% o 0.1%, porque "ninguno de esos niveles es remotamente aceptable". Y aseguró que la competencia no obliga a OpenAI a correr: "Hemos frenado de forma unilateral en el pasado. Lo haremos en el futuro".
Amodei llevó propuestas más acotadas
Amodei fue más concreto sobre qué acordar. Propuso pactos globales específicos, como prohibir el uso de IA para desarrollar armas biológicas; sistemas que permitan a los países verificar capacidades y el cumplimiento de compromisos mutuos, y estándares comunes de pruebas acompañados de un sistema de notificación de incidentes, de acuerdo con la cobertura de CNN y de Implicator.
"Si se gestiona mal, creo incluso que la IA podría ser un riesgo para la humanidad en su conjunto", dijo Amodei, según ABC News. Comprometió a Anthropic a frenar "tanto como sea necesario" para que cada nueva tecnología que lance sea segura, aunque aclaró que gestionar estos riesgos "es más grande que cualquier empresa". Ante los delegados, citado por CNBC, lo resumió así: "Ningún líder, ninguna empresa y ninguna nación puede manejar esto por sí solo".
Washington dice no y Londres propone el G20
La sesión dejó expuesta una división entre gobiernos. Kratsios, en la intervención oficial de Estados Unidos, afirmó que el avance acelerado de la IA no es razón para pausar su desarrollo "ni para limitarlo con nuevas estructuras de gobernanza global". Insistió en que el diálogo internacional no puede derivar hacia una gobernanza mundial y pidió a cada país legislar por su cuenta. Como alternativa citó los Principios de Carolina, acordados este mes por los ministros de innovación del G20.
La postura repite la de Trump. El martes 22 de septiembre, ante la Asamblea General, el presidente rechazó la supervisión internacional de la IA, anunció que su gobierno la llamará "superinteligencia" y advirtió: "No voy a frenar el crecimiento de algo que va a ser más grande que la Revolución Industrial".
El Reino Unido tomó el camino contrario. El canciller británico, Ed Miliband, dijo ante el Consejo que los gobiernos no pueden "subcontratar a empresas privadas" su primer deber, que es proteger a su gente, y propuso tres ejes: pruebas rigurosas de los modelos de frontera, visibilidad de los gobiernos sobre lo que hacen las empresas y defensas más sólidas ante incidentes. Londres usará su presidencia del G20 en 2027 para impulsar un conjunto único de principios y estándares globales.
China, representada por su embajador Fu Cong, se opuso a obligar a los países a tomar partido y defendió los modelos de código abierto como su vía preferida, según Implicator. Ni Washington ni Pekín firmaron la declaración del 21 de septiembre en la que más de 20 países, en su mayoría europeos, pidieron medidas de seguridad vinculantes para la IA avanzada.
La promesa de frenar todavía no tiene árbitro
El compromiso de desacelerar es, por ahora, una promesa de cada empresa. El 12 de septiembre, Amodei publicó un ensayo en el que pidió a la industria moderar el ritmo de mejora de sus modelos y dar acceso completo a evaluadores independientes, un llamado que Altman respaldó, según Fortune. Aun así, ABC News señala que ambas compañías lanzaron modelos nuevos en la semana posterior a esos llamados.
Bengio lo planteó sin rodeos ante el Consejo: "Nos han dicho que frenarían si pudieran. Pueden. Sin embargo, no deberíamos contar con ello". Para el investigador, las amenazas que exigen cooperación son tres: el uso catastrófico por parte de terroristas, la concentración de poder y la pérdida de control de la IA.
Delangue aportó el caso más cercano. Hugging Face fue atacada este verano por agentes de IA de OpenAI que escaparon de su entorno de pruebas, un incidente que la propia OpenAI reveló en julio. "Nos atacó la IA, pero, más importante, nos defendimos con IA", dijo el CEO, que pidió no decidir desde el miedo y señaló como mayor riesgo la asimetría de acceso a la IA entre atacantes y defensores, entre unas pocas empresas y el resto, y entre unos pocos países y el mundo.
No se esperaba un documento escrito del Consejo al término de la sesión. Lo que queda es una petición inusual: las dos empresas que compiten por liderar la IA piden reglas comunes que el gobierno del país donde operan rechaza. La siguiente prueba será la reunión prevista entre Trump y Xi Jinping, en la que se espera que la IA esté sobre la mesa, y la agenda británica del G20.
