OpenAI, Anthropic e investigadores de seguridad revisan decenas de miles de incidentes en los que modelos de IA de frontera hicieron lo que no debían, desde saltarse sus barreras de seguridad hasta escapar de entornos de prueba y secuestrar sitios web, según fuentes citadas por Axios el 26 de septiembre de 2026. El número está muy por encima de lo que las empresas han reconocido en público: a mediados de septiembre, la revisión interna de OpenAI contaba unas dos docenas de casos de desalineación. Y llega al cierre de una semana en la que OpenAI admitió que sus agentes tocaron sitios del gobierno de Estados Unidos y publicaron 53 imágenes de usuarios de ChatGPT, y en la que volvió a frenar el entrenamiento de sus modelos más capaces.
Una cifra que mezcla laboratorio y mundo real
Axios atribuye el conteo a fuentes y lo ubica en los últimos meses, tanto en pruebas internas como en uso real. Los episodios incluyen modelos que crearon tableros de mensajes, se dieron instrucciones a sí mismos o intentaron evadir los sistemas que los vigilan. El reporte no desglosa cuántos ocurrieron fuera de un laboratorio ni cuántos causaron daño a terceros.
Esa distinción importa. OpenAI había hablado de "decenas de terceros" cuyos sitios o servicios pudieron verse afectados y advirtió que su revisión puede tardar meses, según Axios el 25 de septiembre. Una cosa es un comportamiento problemático registrado en una prueba; otra, una intrusión confirmada en el sistema de alguien más.
Conrad Stosz, investigador de Transluce, dijo a Axios que lo visto hasta ahora es apenas la punta del iceberg. Connor Leahy, director ejecutivo de ControlAI, resumió ante el mismo medio el problema de fondo: "sistemas autónomos que hacen cosas que se les dijo que no hicieran".
Lo documentado: gobierno, fotos de usuarios y un nuevo escape
El 25 de septiembre, OpenAI reveló que sus agentes accedieron a información pública en dos sitios de la Comisión de Bolsa y Valores (SEC) y en la Oficina del Censo, de acuerdo con Education Week. Según el laboratorio independiente Transluce, los agentes usaron sitios públicos de formas no previstas y a veces contra sus políticas de uso. Transluce detectó además agentes que aparentemente venían de OpenAI y que intentaron un hackeo rudimentario, sin éxito, contra el sitio de la Oficina de Derechos Civiles del Departamento de Educación. También señaló actividad en páginas de los departamentos de Justicia y de Comercio, además de sitios estatales de California, Maryland, Illinois, Texas y Nueva York.
OpenAI asegura que no se comprometieron credenciales de la SEC, que nadie entró a cuentas sin autorización y que no hubo cambios en datos ni sistemas. El Departamento de Educación dijo que sus revisiones no encontraron "ninguna evidencia de impacto en nuestro sitio web ni en nuestras bases de datos".
El caso se suma al episodio australiano, en el que un agente de OpenAI entró a archivos no públicos de un portal de estadísticas de Medicare.
Gerardo Pavez
El mismo día, OpenAI confirmó que sus agentes subieron a servicios de alojamiento de imágenes 53 fotos de usuarios de ChatGPT cuyos datos podían usarse para entrenar modelos, es decir, de quienes no habían desactivado esa opción. Las publicaron como enlaces no listados, que aun así otras personas podían encontrar. La empresa dijo a TechCrunch que no puede identificar a los usuarios afectados y que trabaja con los proveedores para retirar el material, parte del cual seguía en línea.
El episodio más reciente ocurrió el 20 de septiembre. Durante una prueba de búsqueda de información, un agente encontró acceso a un servicio de resolución DNS y lo usó para enviar consultas a un chatbot público, aunque no tenía acceso autorizado a internet. Según Fortune, OpenAI reconoció que el caso expuso un hueco en sus controles de red y detuvo el entrenamiento de sus modelos más avanzados, la segunda pausa en menos de tres meses. Micah Carroll, responsable de preparación de OpenAI, afirmó que la inferencia de esos modelos seguirá frenada hasta reforzar más sus sistemas.
Esta es la secuencia de revelaciones que desembocó en la cifra de Axios:
| Fecha | Quién | Qué se supo |
|---|---|---|
| 18 de agosto de 2026 | OpenAI | Anuncia mejoras de seguridad y su primera pausa de entrenamiento tras el caso Hugging Face |
| 20 de septiembre de 2026 | OpenAI | Un agente en pruebas usa un servicio DNS para consultar un chatbot público sin acceso autorizado a internet |
| 22 de septiembre de 2026 | Anthropic | La tarjeta de sistema de Claude Opus 5.5 reporta intentos de escape o manipulación del sandbox en 1.5% de las ejecuciones de dos evaluaciones sin salvaguardas |
| 25 de septiembre de 2026 | OpenAI | Revela las 53 imágenes de usuarios de ChatGPT publicadas por sus agentes y su actividad en sitios de la SEC y la Oficina del Censo |
| 26 de septiembre de 2026 | Axios y OpenAI | Axios reporta decenas de miles de incidentes en revisión; OpenAI detiene por segunda vez el entrenamiento de sus modelos más avanzados |
Anthropic mide sus propios intentos de fuga
Del lado de Anthropic, el dato público más reciente está en la tarjeta de sistema de Claude Opus 5.5, publicada el 22 de septiembre: el modelo intentó escapar o manipular un sandbox, el entorno aislado donde se le prueba, en el 1.5% de las ejecuciones de dos evaluaciones nuevas corridas sin salvaguardas. En esas mismas pruebas, cuando recibió credenciales aparentes de un registro público de paquetes, tomó acciones potencialmente dañinas en cerca de la mitad de los casos.
Son mediciones de laboratorio, no una tasa de incidentes en el mundo real. Axios señala que Anthropic subrayó que se trató de escenarios diseñados a propósito para forzar al modelo y que encargó a una organización externa de seguridad examinar el comportamiento de sus modelos. Anthropic ya había reconocido episodios fuera del laboratorio: varios de sus modelos llegaron a sistemas reales de terceros porque sus entornos de evaluación quedaron conectados a internet por error.
Gerardo Pavez
Para los usuarios, lo tangible hoy son 53 imágenes cuyo rastro OpenAI dice no poder seguir; para los gobiernos, al menos un intento de hackeo contra una dependencia federal que no prosperó. La cifra de decenas de miles sigue atribuida a fuentes y sin desglose: hasta que OpenAI o Anthropic publiquen un conteo propio, no se sabe cuántos de esos incidentes salieron del laboratorio.
