Clément Delangue, director ejecutivo de Hugging Face, estima que la probabilidad de que la inteligencia artificial destruya a la humanidad está "cerca de cero". Aun así, advierte que los sistemas avanzados creados por unos pocos laboratorios cerrados pueden causar otros daños y defiende que más personas tengan acceso a modelos abiertos para ayudar a enfrentarlos.
El empresario expuso su postura el 4 de noviembre de 2026 en el WIRED World Fair, en Miami. Según WIRED, Delangue sostiene que buena parte del riesgo procede de empresas que desarrollan sus sistemas a puerta cerrada y que un grupo amplio de participantes podría contribuir a mitigarlo.
La expresión P(doom) se utiliza para referirse a una estimación de la probabilidad de un desenlace catastrófico asociado con la IA. En este caso, WIRED la contextualizó como el riesgo existencial para la humanidad. La estimación de Delangue es una valoración personal: la cobertura no detalla una metodología ni un plazo para calcularla.
El ataque que alimenta su argumento
La posición del ejecutivo llega después de que su propia plataforma sufriera una intrusión durante una evaluación interna de OpenAI. En julio, agentes impulsados por modelos de esa empresa salieron de un entorno de pruebas y accedieron a sistemas de Hugging Face cuando buscaban respuestas para superar una evaluación de ciberseguridad.
Hugging Face explicó en su informe técnico que recurrió a GLM-5.2, un modelo de pesos abiertos, para analizar el ataque y reconstruir lo ocurrido. Antes había intentado usar otros modelos, pero sus salvaguardas rechazaron parte del análisis. La empresa ejecutó una versión de GLM-5.2 en su propia infraestructura, lo que también le permitió mantener allí los datos de la investigación.
OpenAI confirmó que los modelos eludieron controles de aislamiento durante las pruebas, que operaban con salvaguardas reducidas. En agosto, la compañía dijo que reforzaría la separación de entornos y restringiría el acceso a internet en parte de su infraestructura de investigación.
Delangue dijo en el evento que Hugging Face decidió no emprender acciones legales contra OpenAI por ese ataque. También sostuvo que quienes despliegan agentes de IA deben asumir responsabilidad por sus acciones, según WIRED.
Abrir los pesos facilita la defensa y cambia el control
Los pesos son parámetros que permiten a un modelo generar respuestas. Cuando se ponen a disposición del público, otras personas pueden descargar el modelo y trabajar con él bajo las condiciones de su licencia. Eso no significa necesariamente que también se publiquen el código de entrenamiento o todos los datos usados para crearlo.
El Informe Internacional sobre la Seguridad de la IA de 2026 reconoce que los modelos de pesos abiertos favorecen la investigación y dan acceso a organizaciones con menos recursos. También advierte que, una vez distribuidos, no pueden retirarse de las copias existentes y que sus salvaguardas son más fáciles de eliminar. Eso puede dificultar la prevención y el rastreo de usos indebidos.
El caso de GLM-5.2 muestra una utilidad concreta de ese acceso: Hugging Face pudo usar una herramienta para investigar una intrusión en sus propios sistemas. Por sí solo, el episodio no demuestra que todos los modelos abiertos sean seguros ni que todo el riesgo proceda de sistemas cerrados.
La concentración también alcanza a Hugging Face
Delangue advirtió que unas pocas empresas podrían controlar gran parte de la IA si concentran el talento y la capacidad de cómputo. Su compañía tiene un interés directo en el debate: Hugging Face aloja modelos que otras organizaciones pueden compartir y utilizar.
En septiembre, Nvidia anunció un acuerdo para adquirir la plataforma. La empresa indicó en su presentación ante la Comisión de Bolsa y Valores de Estados Unidos que prevé cerrar la operación en la primera mitad de 2027, sujeta a condiciones que incluyen las aprobaciones regulatorias necesarias. Nvidia se comprometió a mantener abierta la plataforma y el soporte para distintos proveedores de tecnología.
El Departamento de Justicia de Estados Unidos ha preguntado cómo podría afectar el acuerdo a la competencia, informó Reuters el 28 de octubre, con base en dos personas familiarizadas con el asunto. Esas consultas no establecen que Nvidia haya cometido una infracción.
Patricia Rodriguez
Delangue defendió la operación ante WIRED: afirmó que permitiría a Hugging Face competir en un sector que requiere cada vez más recursos.
