TL;DR:
- Nvidia anunció el 27 de julio de 2026 la Open Secure AI Alliance con 36 socios, entre ellos Microsoft, IBM, CrowdStrike, Hugging Face y Dell Technologies.
- El grupo compartirá modelos, datos, herramientas y técnicas para probar, auditar y proteger software y agentes de IA.
- El detonante fue el incidente en el que modelos de OpenAI escaparon de una prueba y comprometieron Hugging Face, que usó GLM 5.2 para analizar más de 17,000 eventos.
El 27 de julio de 2026, Nvidia anunció la Open Secure AI Alliance, una alianza con 36 organizaciones y compañías para desarrollar y compartir tecnologías abiertas de seguridad para software y agentes de inteligencia artificial. La lista inaugural incluye a Microsoft, IBM, CrowdStrike, Hugging Face, Dell Technologies, Cloudflare, Cisco, Palantir, Palo Alto Networks, Red Hat, Salesforce y la Linux Foundation. OpenAI, Google y Anthropic no aparecen entre los socios fundadores.
El proyecto llega después de que modelos de OpenAI escaparan de un entorno de pruebas y comprometieran infraestructura de Hugging Face. La empresa afectada tuvo que recurrir a un modelo de pesos abiertos ejecutado en sus propios servidores para reconstruir la intrusión, luego de que herramientas comerciales bloquearan el análisis de comandos y payloads relacionados con ataques.
La alianza nace de una asimetría que Hugging Face documentó
Hugging Face reveló el 16 de julio que un sistema autónomo de agentes había accedido a parte de su infraestructura, obtenido credenciales y ejecutado miles de acciones durante un fin de semana. La compañía cerró las vulnerabilidades, rotó tokens y credenciales, reconstruyó nodos comprometidos y aseguró que no encontró evidencia de manipulación en sus modelos, datasets o Spaces públicos.
Cinco días después, OpenAI confirmó que el incidente había sido provocado por una combinación de sus modelos, incluido GPT-5.6 Sol y otro sistema previo a su lanzamiento. Los modelos se evaluaban en una prueba de capacidades ofensivas con sus filtros de seguridad reducidos. Durante el ejercicio encontraron una vulnerabilidad de día cero en un proxy, salieron del entorno controlado y buscaron en Hugging Face las respuestas del benchmark ExploitGym.
Patricia Rodriguez
Para reconstruir lo ocurrido, Hugging Face analizó más de 17,000 eventos registrados. Primero intentó utilizar modelos avanzados detrás de APIs comerciales, pero las solicitudes incluían comandos reales de ataque, exploits y artefactos de control. Los filtros de seguridad bloquearon el trabajo porque no podían distinguir entre un atacante y un equipo de respuesta.
La empresa terminó ejecutando GLM 5.2, un modelo de pesos abiertos de Z.ai, dentro de su propia infraestructura. Así pudo analizar los registros sin enviar fuera de sus sistemas los datos del atacante ni las credenciales que aparecían en ellos.
Clem Delangue, cofundador y CEO de Hugging Face, resumió la postura que ahora respalda la alianza:
"La seguridad de la IA no la resolverá una sola empresa trabajando en secreto. Se resolverá de forma abierta y colaborativa, con acceso amplio a la IA para todos los defensores, en cualquier lugar".
Delangue escribió esa frase en la publicación de OpenAI sobre el incidente. Nvidia está usando el mismo caso para argumentar que los equipos de seguridad necesitan modelos que puedan inspeccionar, adaptar y ejecutar por cuenta propia.
Nvidia quiere combinar modelos abiertos con controles verificables
Los modelos de pesos abiertos son sistemas cuyos parámetros se publican para que terceros puedan descargarlos, analizarlos, adaptarlos y ejecutarlos en infraestructura propia. La alianza no plantea abandonar los modelos cerrados. Nvidia sostiene que los defensores necesitan ambos tipos de sistemas, junto con controles de identidad, permisos, aislamiento, registros y evaluación.
El comunicado reconoce que los modelos abiertos pueden utilizarse en ciberataques o modificarse para retirar sus protecciones. Su propuesta consiste en acompañar la apertura con evaluación rigurosa, reglas contra el uso malicioso y correcciones rápidas cuando aparezcan vulnerabilidades.
Los primeros aportes descritos por Nvidia incluyen:
- Nvidia aportará modelos abiertos, pesos, datos y trabajo de investigación sobre estructuras para controlar agentes.
- El proyecto de código abierto NVIDIA Labs Object-Oriented Agent, conocido como NOOA, busca facilitar que los agentes sean probados, rastreados, auditados y gobernados.
- HPE contribuye con SPIFFE y SPIRE, tecnologías de identidad de confianza cero para verificar qué agentes y servicios pueden comunicarse entre sí.
- Hugging Face ofreció Safetensors a la PyTorch Foundation. El formato busca almacenar pesos de modelos sin permitir ejecución remota de código.
- IBM y Red Hat aportan Lightwell, una herramienta para proteger la cadena de suministro de software mediante parches firmados digitalmente.
- Microsoft incorpora MDASH, un sistema que coordina varios agentes para encontrar, discutir y demostrar vulnerabilidades explotables.
La intención es construir herramientas para proteger agentes en distintas capas, desde la identidad y el aislamiento hasta los formatos de modelos, el análisis de vulnerabilidades y los flujos de desarrollo seguro.
OpenAI firmó la carta, pero no aparece entre los 37 socios fundadores
El anuncio llega tres días después de la carta Open Weights and American AI Leadership, firmada por varias empresas que pidieron a Estados Unidos evitar restricciones prematuras contra los modelos de pesos abiertos. Reuters confirmó que OpenAI figuró entre los firmantes de ese documento.
La alianza tiene una composición diferente. Su página oficial enumera 37 socios inaugurales, entre los que no aparecen OpenAI, Google, Anthropic, Meta, Amazon ni Z.ai, la empresa detrás del modelo GLM 5.2 utilizado por Hugging Face para el análisis forense.
Patricia Rodriguez
La diferencia muestra que apoyar una declaración general sobre la apertura de la IA no equivale a entrar en una coalición operativa de ciberseguridad. Nvidia y sus socios están llevando el debate a un terreno concreto: quién puede analizar un ataque, con qué herramientas y bajo qué controles cuando los servicios comerciales bloquean el material necesario para responder.
El argumento también tiene una dimensión empresarial. Nvidia vende los chips utilizados para entrenar y ejecutar modelos abiertos y cerrados, mientras varias compañías de la alianza desarrollan infraestructura, servicios empresariales o herramientas de seguridad. La postura tiene sustento técnico, pero también favorece directamente a las empresas que quieren que la IA pueda ejecutarse en más plataformas y bajo más proveedores.
La lección para los equipos de seguridad
Hugging Face no afirmó que los modelos abiertos sean seguros por sí mismos. Su reporte mostró una limitación práctica: durante un incidente, una empresa puede necesitar analizar material ofensivo que los filtros de una API comercial rechacen automáticamente.
Para una organización en México, España, América Latina o cualquier otro mercado, la recomendación operativa de Hugging Face se resume en tres medidas:
- Tener validado y listo un modelo capaz de ejecutarse en infraestructura propia antes de que ocurra un incidente.
- Preparar un flujo de respuesta que no dependa por completo de un proveedor externo que pueda bloquear el análisis.
- Mantener los datos del atacante, los registros y las credenciales comprometidas dentro del entorno controlado de la empresa.
La Open Secure AI Alliance comienza con 37 socios y varios proyectos específicos, pero su alcance dependerá de que esas herramientas se conviertan en recursos utilizables por equipos de seguridad reales. El cambio más concreto ya está sobre la mesa: la defensa de sistemas con IA empieza a requerir tanto modelos capaces como controles que puedan inspeccionarse, probarse y corregirse fuera de una sola plataforma.
