6.500 dólares por 72 horas de trabajo. Eso es lo que cobraron 4 miembros de la empresa de seguridad Hacktron AI por encontrar vulnerabilidades y escalar privilegios dentro de los servidores de OpenAI, utilizando un modelo avanzado de Claude para esa labor.
Cómo lo hicieron
Los 4 integrantes del equipo, Harsh Jaiswal, Mohan Pedhapati y Rahul Maini, además de Claude, tomaron el control de cuentas del foro de discusión de OpenAI, community.openai.com, subiendo archivos corruptos de imágenes que ocasionaron un desbordamiento de memoria tras lo que pudieron tomar el control.
Gerardo Pavez
Un control que luego, emparejando con otra vulnerabilidad (ya dentro de los servidores de OpenAI), les permitió escalar privilegios, acceder a cuentas de Slack, correos corporativos, repositorios de GitHub, entre otros.
Sobre cómo lo hicieron, pues, con la ayuda de Claude Opus y Claude Fable para encontrar las vulnerabilidades, admitiendo además que en modelos anteriores hicieron intentos que les resultaron infructuosos. Eso nos dice que pequeñas actualizaciones en estos modelos de frontera son suficientes para encontrar vulnerabilidades que hace meses no podían.
La ciberseguridad será cada vez más valiosa
Y bueno, era de esperarse. Con cada modelo que va surgiendo en el mundo, sobre todo en los modelos de frontera de las grandes empresas como OpenAI, Anthropic o Grok, y con los modelos chinos que pudieran o no derivarse de los anteriores, con Qwen, Kimi, GLM y DeepSeek a la cabeza, la seguridad ofensiva es una de las artes más lucrativas, porque mientras las empresas se van preparando para defenderse, ya muchos ataques se realizan incluso en automático.
Gerardo Pavez
Mustafa Suleyman, que es el jefe de IA de Microsoft, por ejemplo, ha sido enfático en cómo es necesario que todas las empresas del sector estén coordinadas, puesto que cada vez los agentes son más autónomos, más poderosos en sus capacidades de encontrar vulnerabilidades y mucho más difíciles de controlar.
Todo esto se produce, quepa resaltar, en un contexto en el que incluso los propios fundadores de las empresas de IA han sembrado la preocupación sobre cómo están funcionando sus modelos más potentes.
Unos indicando que se debe ralentizar el desarrollo; otros, que se debe crear un mecanismo sólido de seguridad y confianza. Pero en términos generales, para nadie es un secreto que estamos en una época en que la ciberseguridad será un arma valiosa para los gobiernos, para las empresas e incluso una industria en la que muchos ya están viendo cómo migrar. No en vano, el propio gobierno de Estados Unidos se plantea dar beneficios a startups de ese rubro.
