El Reino Unido confirmó el 12 de octubre que su AI Security Institute (AISI) ya evalúa nuevos modelos avanzados de inteligencia artificial. El ministro de IA, Kanishka Narayan, anunció las pruebas tras negociaciones con Estados Unidos y los desarrolladores para mantener el acceso antes de su lanzamiento.
La declaración llegó un día después de que The Telegraph informara de una reversión de las restricciones de Washington. Según el diario, que no identifica las fuentes de esa decisión, la Casa Blanca había pedido en septiembre a Anthropic, OpenAI y otras empresas que dejaran de compartir modelos con el instituto británico. El reporte atribuye la marcha atrás a las gestiones de Narayan y señala que el AISI volvería a acceder a sistemas de Anthropic, OpenAI y Google DeepMind.
Narayan nombró Gemini 4 Argon entre los modelos examinados. En su discurso en Imperial College London, explicó que las gestiones buscaban mantener las evaluaciones antes de los lanzamientos.
El acceso sigue ligado a la cooperación de los desarrolladores
El AISI trabaja con acuerdos voluntarios. En un documento publicado este lunes, afirma que ha examinado de forma independiente más de 55 modelos antes de su lanzamiento, un recuento de su trayectoria.
Reuters precisa que la confirmación ministerial no enumera todos los modelos evaluados y que los ministros nunca confirmaron una pérdida general de acceso. La agencia también recoge una carta de septiembre del AISI: Anthropic había señalado que ninguna organización fuera de Estados Unidos tenía acceso a Mythos 5.1.
Preguntado por la continuidad de las pruebas, Narayan expresó confianza en las conversaciones con Washington, aunque reconoció ante Reuters que depender de tecnología ajena exige cautela sobre la permanencia del acceso.
El desacuerdo se produjo mientras Londres buscaba impulsar la regulación internacional de la IA. The Telegraph recuerda que Donald Trump defendió ante la Asamblea General de la ONU, en septiembre, que las organizaciones internacionales no interfirieran en el desarrollo de modelos de empresas estadounidenses. Estas posiciones ayudan a entender por qué el acceso de los evaluadores británicos también depende de negociaciones entre gobiernos, además de los acuerdos con las empresas.
Los riesgos también aparecen dentro del laboratorio
El nuevo documento del AISI advierte que los sistemas más autónomos, especialmente en ciberseguridad, pueden causar daños durante el entrenamiento, el uso interno o las evaluaciones. Propone supervisarlos durante todo el desarrollo, detectar incidentes y dar acceso suficiente a auditores independientes.
El organismo también advierte que los modelos superan rápidamente algunos exámenes de capacidad, mientras preparar evaluaciones creíbles requiere tareas más complejas. Las metodologías para comprobar que los agentes actúen como se espera todavía están en una etapa temprana.
La seguridad de esas pruebas conecta con el debate sobre el aislamiento de los agentes durante las evaluaciones.
La agenda técnica del AISI es voluntaria y busca que las prácticas acordadas maduren hacia estándares internacionales. En paralelo, Narayan anunció la ampliación del uso de IA para reforzar las defensas digitales del Gobierno británico.
El Gobierno británico quiere impulsar esa cooperación durante su presidencia del G20 en 2027. Narayan anunció que la IA será un tema central de esa agenda.
