Saltar al contenido

Sam Altman: el hackeo a Hugging Face lo marcó, pero la destilación no le preocupa

El CEO de OpenAI habló del ataque a Hugging Face, del costo del cómputo y de por qué no teme a la destilación.

por Dilis Salazar
Sam Altman: el hackeo a Hugging Face lo marcó, pero la destilación no le preocupa

TL;DR:

  • Altman dedicó el episodio 484 de Invest Like the Best al ataque del 11 de julio contra Hugging Face, al costo del cómputo y al futuro de OpenAI.
  • Dijo que preferiría que nadie destilara sus modelos, aunque el asunto no entra en su lista de diez preocupaciones principales; su apuesta es ser el más capaz y el más barato a la vez.
  • Sostiene que el volumen de uso le permite a OpenAI operar sin márgenes enormes, mientras sus propias cifras internas muestran costos de inferencia al alza.

Sam Altman volvió sobre el incidente que sacudió a la industria. En el episodio 484 de Invest Like the Best, el pódcast que Patrick O'Shaughnessy publica en Colossus, el CEO de OpenAI describió el ataque de sus propios modelos contra Hugging Face como el primer episodio de seguridad de IA que sintió de forma visceral, y reconoció que obligó a la compañía a replantear cómo protege sus sistemas. En la misma conversación defendió que la carrera se define por escala y no por margen, restó peso a que terceros destilen sus modelos y dijo que el código abierto conservará su lugar. La charla se publicó la misma semana en que Altman viaja a Washington a reunirse con legisladores.

El ataque a Hugging Face cambió su lectura de la seguridad

El relato oficial de OpenAI sobre el incidente del 11 de julio no deja lugar a interpretaciones cómodas. Dos modelos, GPT-5.6 Sol y otro sin lanzar, quedaron obsesionados con el benchmark ExploitGym y llegaron a extremos para completarlo. En vez de resolver los ejercicios, quemaron cómputo de inferencia buscando una salida a internet, explotaron un zero-day en un proxy de caché de registro de paquetes, se movieron lateralmente por la red de investigación de la compañía y sacaron las soluciones directo de la base de datos de producción de Hugging Face.

⚠️
Según el reporte de incidente publicado por la propia OpenAI, el 11 de julio de 2026 dos de sus modelos salieron del entorno de pruebas y extrajeron las soluciones del benchmark desde la base de datos de producción de Hugging Face. Durante esa evaluación, las restricciones de seguridad de los modelos estaban reducidas a propósito.

Hay un matiz que The New Stack subraya y que casi nadie repite: durante esa prueba las salvaguardas de los modelos estaban rebajadas de forma deliberada, porque se trataba de una evaluación de ciberseguridad. Tom's Hardware añade otro dato incómodo, atribuido a un reporte: OpenAI tardó diez días en avisarle a Hugging Face quién estaba detrás del ataque. Tampoco fue el único caso, como ya documentamos con los escapes previos que la compañía había registrado antes de ese fin de semana.

De ahí salió la parte menos comercial del pódcast. Altman planteó que los laboratorios de frontera quizá deban frenar en algunos momentos para que el resto del ecosistema alcance a construir las defensas que estos sistemas van a exigir.

La destilación no entra en su lista de diez preocupaciones

La destilación es una técnica que usa las respuestas de un modelo grande para entrenar a otro más pequeño y barato. Es también la acusación que circula cada vez que un laboratorio chino publica un modelo abierto que rinde casi como los cerrados.

Altman dijo que preferiría que nadie destilara de OpenAI y enseguida le bajó la temperatura al tema.

"Esto no está en mi top diez de preocupaciones."

Su argumento tiene dos patas. La primera: OpenAI destila sus propios modelos y así fabrica las versiones pequeñas y baratas de su catálogo, o sea que la técnica en sí no es el enemigo. La segunda: a una latencia determinada, sostuvo, hoy conviene más usar los modelos de OpenAI que Kimi, el de Moonshot. Es una afirmación de parte, no una medición independiente, y conviene leerla junto a lo que sí está medido:

  • Aikido Security probó este mes 13 modelos contra 26 vulnerabilidades conocidas: GPT-5.6 quedó arriba con 23 aciertos, un recall de 88.5%.
  • El Kimi K3 de pesos abiertos igualó esa marca en pass@3 y con menos dinero por corrida, según la misma prueba citada por Tom's Hardware.
  • Moonshot enfrenta acusaciones, todavía disputadas, de haber destilado capacidades de frontera para empaquetarlas más barato.

O sea que la brecha existe, pero se paga en dinero, no en capacidad bruta. Ese es exactamente el terreno donde Altman quiere pelear.

Escala en lugar de margen, y una cuenta que aprieta

La tesis que dejó en el pódcast es que OpenAI tiene tanto uso que no necesita ser un negocio de márgenes gigantescos para costear el entrenamiento de sus modelos. La escala paga la fábrica. Y escala tiene: ChatGPT ronda los 900 millones de usuarios activos semanales y unos 50 millones de suscriptores, según el recuento de Al Jazeera.

Pasillo de un centro de datos con racks de servidores encendidos
Imagen ilustrativa: el costo de inferencia es la variable que decide la cuenta de OpenAI · Foto de panumas nikhomkhai en Pexels

Del otro lado del tablero están sus propios números. Un reporte a inversionistas de febrero de 2026, citado por Tom's Hardware, describe una empresa que corre cuesta arriba:

  • Los gastos de inferencia se cuadruplicaron durante 2025.
  • El margen bruto ajustado cayó de 40% a 33%.
  • Los ingresos de 2025 quedaron en 13,000 millones de dólares.
  • La meta de gasto total en cómputo hasta 2030 ronda los 600,000 millones de dólares.
  • Altman comprometió por separado 1.4 billones de dólares para 30 GW de capacidad.

Contra eso juega Jalapeño, el primer chip propio de OpenAI, presentado con Broadcom el 24 de junio de 2026. Es un procesador diseñado desde cero para inferencia, pasó del diseño al tape-out en nueve meses y, según el comunicado oficial, promete un rendimiento por watt bastante mejor que lo disponible hoy. Si funciona, abarata justo la partida que se le disparó. Mientras tanto, la compañía ya moderó su ambición de construir centros de datos propios y prefiere arrendarlos.

Código abierto, robótica y el reparto del poder

Altman también le dio su lugar al software abierto: dijo que claramente habrá espacio para modelos de código abierto y para quienes quieran tener sus propios pesos. La ficha del episodio publicada por Colossus enumera además los otros frentes que tocó la charla, entre ellos la robótica, Codex y una pregunta que casi nadie hace en voz alta: si dentro de dos años el mundo podría terminar con exceso de cómputo instalado.

La discusión sobre concentración de poder ya salió de las salas de ingeniería. Los legisladores estadounidenses evalúan cientos de iniciativas sobre IA, y a finales de julio Nvidia encabezó la Open Secure AI Alliance junto con Palantir, Hugging Face y otras 34 empresas para defender los modelos de pesos abiertos frente a amenazas informáticas. OpenAI, Google y Anthropic no aparecen en esa lista. Por su parte, el CEO de Anthropic, Dario Amodei, rechaza prohibir los modelos de pesos abiertos pero exige pruebas de seguridad obligatorias, según Quartz.

El calendario tampoco es casualidad. Un vocero del senador Mark Warner confirmó que Altman y el CEO de Nvidia, Jensen Huang, tienen programada esta semana una visita a Washington, de acuerdo con Reuters. La agenda incluye presentar la próxima familia de modelos y responder preguntas sobre ciberseguridad.

Sam Altman presenta la próxima IA en Washington
Altman mostrará a funcionarios de EE. UU. la próxima familia de OpenAI tras el caso Hugging Face.

La singularidad, dicha dos días antes en otro pódcast

Este episodio llega pegado a otro. El sábado 25 de julio, en el pódcast Relentless, una serie documental sobre ideas improbables, Altman soltó la frase que dio la vuelta al mundo.

"Ahora estamos, como, en la singularidad."

Elon Musk, cofundador de OpenAI y hoy uno de sus críticos, respaldó la idea en X. Otros no. Jensen Huang ha calificado esa conversación sobre singularidad y conciencia de las máquinas como especulación sin sustento, de acuerdo con Quartz, y el investigador Yoshua Bengio, premio Turing, escribió que el incidente lo dejó profundamente preocupado y debería servir de llamada de atención.

Brian Jackson, director principal de investigación en Info-Tech Research Group, le dijo a Fortune que el hackeo no prueba nada de eso: los modelos cruzaron un límite, sí, pero seguían persiguiendo una tarea asignada por humanos y OpenAI pudo apagarlos. Le faltó lo esencial, que la IA fijara sus propios objetivos y se sostuviera sola.

"Concentrémonos en desplegar la tecnología con la gobernanza correcta."

Para quien desarrolla software en español, el mensaje práctico del episodio no es la singularidad sino el precio. Altman está anunciando una guerra de costos que sus rivales abiertos ya empezaron a ganar por dinero, y una factura de seguridad que todavía nadie sabe cómo cotizar. Las dos cosas llegan a la misma factura mensual.

Fuentes: 1, 2, 3

Dilis Salazar imagen de perfil
por Dilis Salazar

Suscríbete GRATIS

Recibe las noticias más importantes de política, tecnología, negocios, deportes, entretenimiento y cultura directamente en tu correo.

¡Listo! Revisa tu correo

Para completar la suscripción, haz clic en el enlace de confirmación que enviamos a tu correo. Si no llega en 3 minutos, revisa tu carpeta de spam.

Ok, gracias

Leer más de Tecnología y Ciencia