El rey Carlos III reunió el 17 de septiembre de 2026 a ejecutivos de Nvidia, Google DeepMind, OpenAI y Anthropic en Dumfries House, Escocia, y les pidió controles capaces de impedir que la inteligencia artificial caiga en manos equivocadas o se use de forma catastrófica. Jensen Huang, fundador y CEO de Nvidia, defendió una fórmula centrada en la responsabilidad empresarial: comprobar con mucho más rigor que cada producto esté listo y retenerlo si no lo está. La cita elevó el debate sobre la seguridad de la IA, pero al concluir no se había anunciado un acuerdo vinculante.
Las conversaciones fueron facilitadas por The Ditchley Foundation, según la Casa Real británica. Entre los asistentes estuvieron Huang; Demis Hassabis, cofundador y presidente de Google DeepMind; Sarah Friar, directora financiera de OpenAI; Tino Cuéllar, director de asuntos globales de Anthropic; Kanishka Narayan, ministro británico de Inteligencia Artificial, y Paolo Benanti, asesor del papa León XIV.
Carlos III pidió controles antes de que sea demasiado tarde
Carlos III reconoció que la IA ya puede mejorar y salvar vidas, en particular en las ciencias de la vida y la medicina. Su advertencia llegó por el otro extremo: dijo que quienes crearon estas tecnologías también alertan sobre capacidades más oscuras, incluso la posibilidad de quitar vidas.
«Necesitamos medios de control suficientes antes de que sea demasiado tarde», planteó Carlos III.
El monarca llevó dos preguntas a la mesa. La primera fue cómo aprovechar los beneficios de la IA con la seguridad en el centro; la segunda, cómo construir cooperación y consenso internacional sin dejar atrás a ningún país. También pidió que la tecnología permanezca al servicio de la humanidad, las comunidades y el mundo natural.
La Casa Real presentó la reunión como un intento de explorar principios compartidos para el desarrollo y despliegue de la IA. El material público de la cumbre no definió quién debería fijar las pruebas, verificar sus resultados o intervenir cuando una empresa considere seguro un producto y otros actores discrepen.
Huang pone la primera barrera en cada desarrollador
Huang habló de «optimismo responsable» y sostuvo que las compañías deben ser mucho más rigurosas al probar y asegurar sus sistemas antes de lanzarlos. También pidió que las pruebas se hagan en entornos aislados y que los productos no lleguen al público hasta estar listos. Su regla fue directa: «Si no está listo, simplemente reténganlo. Deben avanzar tan rápido como puedan, pero no más rápido que eso».
Eso no equivale a pedir que los gobiernos se aparten. En el mismo video de Bloomberg Television, Huang dijo que deben involucrarse, pero distinguió entre regular la IA como tecnología y regular los productos que la utilizan.
La postura no nació en Escocia. El 15 de septiembre, en Dreamforce, Huang ya había dicho que la seguridad era un problema de ingeniería, que las empresas debían probar sus productos en entornos seguros y que no hacían falta leyes nuevas. En Dumfries House mantuvo la primera barrera en manos de cada desarrollador, aunque reconoció un papel gubernamental alrededor de los productos y sus usos.
Gerardo Pavez
Ese punto lo separa de las propuestas que piden una desaceleración coordinada o controles externos obligatorios. Huang acepta que una empresa pause un lanzamiento inseguro, pero su intervención no estableció una evaluación independiente ni un umbral común que todos los laboratorios deban superar.
La cumbre habló de principios, pero no anunció reglas
En el resumen publicado después del encuentro, la Casa Real dijo que los delegados consideraron si podía establecerse un conjunto compartido de principios. No enumeró principios aprobados, plazos, pruebas obligatorias ni mecanismos de supervisión. Reuters indicó que la cita no estaba prevista para producir acuerdos vinculantes.
Así quedó abierta la distancia entre dos posiciones expuestas durante la jornada. Carlos III pidió «medios de control» e insistió en la cooperación internacional; Huang puso la responsabilidad inicial en cada fabricante y en su disciplina antes del lanzamiento. La información pública de la cumbre no resolvió quién define un nivel suficiente de seguridad, quién lo audita ni qué ocurre si una empresa y un evaluador externo discrepan.
Por ahora, el resultado verificable es una petición pública de controles y el compromiso verbal de retener productos que no estén listos. Un estándar común, una auditoría independiente o un calendario obligatorio no formaron parte de lo anunciado.
