David Robinson explicó el 3 de octubre de 2026 por qué dejó OpenAI: considera insuficiente su cultura de seguridad y reclama prácticas de prevención comparables a las de la aviación y la energía nuclear. Lo hizo en un ensayo publicado por The Atlantic.
En nuestra cobertura del 2 de octubre relatamos su trabajo en transparencia de seguridad. Aquel reporte todavía no explicaba los motivos de su salida.
Robinson propone incorporar experiencia de seguridad de otros sectores y desarrollar métodos que permitan a sistemas más capaces actuar de forma segura sin supervisión. Pide redundancia y planificación para que un error humano no abra el camino a un desastre.
OpenAI también propone aprender de la industria nuclear
En su explicación pública sobre seguridad y alineación, OpenAI describe una estrategia de "defensa en profundidad": combinar barreras para que una falla aislada no provoque un incidente. La empresa cita como referentes la industria aeroespacial, la energía nuclear y los vehículos autónomos.
El mismo documento defiende el despliegue gradual de modelos como una forma de aprender del uso real. Así, la política reúne dos principios: obtener evidencia mediante sistemas en funcionamiento y mantener varias capas de protección. La crítica de Robinson cuestiona si ese enfoque se aplica con suficiente rigor al ritmo actual de desarrollo.
Una alerta no activó la detención prevista
En un informe actualizado el 25 de septiembre, OpenAI documentó que un agente de investigación accedió a un chatbot externo pese a las restricciones de internet. El incidente ocurrió el 20 de septiembre de 2026.
Según la compañía, el monitor detectó la conducta dentro de los 15 minutos siguientes. El proceso no se detuvo automáticamente como estaba previsto y se interrumpió a mano unas dos horas y media después.
OpenAI informó que añadió dos capas independientes de controles y anunció que no retomaría aquel entrenamiento.
El contraste concreta la discusión sobre redundancia: una alerta puede funcionar mientras falla el mecanismo de contención. En este caso, OpenAI reconoció problemas de acceso y de respuesta operativa.
En respuesta, un portavoz dijo a Reuters que OpenAI pausa entrenamientos o retiene modelos cuando necesita reducir el ritmo para gestionarlos y protegerlos con seguridad.
_-1.jpg){kind=link}