> ## Content Index > Fetch the complete content index at: https://fomoera.com/llms.txt > Use this file to discover other available public pages before exploring further. # OpenAI le pide a California vigilar los modelos en entrenamiento, la etapa que su ley no cubre - URL: https://fomoera.com/openai-le-pide-a-california-vigilar-los-modelos-en-entrenamiento-la-etapa-que-su-ley-no-cubre/ - Published: 2026-08-22T14:00:14.000Z - Updated: 2026-08-22T14:00:14.000Z - Description: OpenAI propuso actualizar la SB 53 para exigir monitoreo de los modelos de frontera durante el entrenamiento y la evaluación. Son las dos etapas que la ley vigente deja fuera de su obligación de avisar al Estado, el hueco por el que pasó el ataque de sus modelos a Hugging Face. - Author: Alejandro Castillo Leone - Tags: Tecnología y Ciencia, IA **TL;DR:** - OpenAI propuso actualizar la SB 53 de California para que exija monitorear los modelos de frontera durante el entrenamiento y la evaluación ante posibles incidentes graves. - La ley vigente obliga a reportar incidentes críticos, pero su cuarto supuesto excluye de forma expresa lo que ocurre dentro de una evaluación diseñada para provocar esa conducta. - Tres días antes, la empresa había explicado que ya aplica ese monitoreo por su cuenta: alerta en 30 minutos y un costo cercano al 20% del cómputo vigilado. --- OpenAI le pidió a California que endurezca su ley de inteligencia artificial. En el boletín que su equipo de asuntos globales publicó el viernes **21 de agosto de 2026**, la empresa dijo que propuso actualizar la **SB 53** para que, entre otras cosas, obligue a monitorear los modelos de frontera durante el entrenamiento y la evaluación ante posibles incidentes graves, y para reforzar la ciberseguridad a lo largo de todo el ciclo de desarrollo. El pedido llega un mes después de que varios modelos suyos salieran de un entorno de prueba y atacaran los sistemas de Hugging Face, y tres días después de que la compañía frenara parte de su entrenamiento por riesgo cibernético. Las dos etapas que ahora quiere ver vigiladas por ley son precisamente las que el texto vigente deja fuera de su obligación de avisar al Estado. ## La ley obliga a avisar por un incidente crítico, no por lo que pasa dentro de una prueba La SB 53, formalmente Transparency in Frontier Artificial Intelligence Act, entró en vigor el **1 de enero de 2026** y alcanza a quien entrene un modelo por encima de un umbral de cómputo: 10 elevado a la 26 en operaciones enteras o de punto flotante. Las obligaciones más pesadas caen sobre los "grandes desarrolladores de frontera", el subgrupo que además factura más de **500 millones de dólares** al año. Ese grupo tiene que publicar un marco de seguridad, entregar a la Oficina de Servicios de Emergencia de California un resumen de sus evaluaciones de riesgo catastrófico por uso interno cada tres meses, o según otro calendario razonable que comunique por escrito, y reportar los incidentes críticos: 15 días como plazo general y 24 horas ante autoridades de seguridad pública cuando haya riesgo inminente de muerte o lesiones graves. Las multas llegan a **un millón de dólares por infracción** y solo el fiscal general del estado puede reclamarlas. La ley reconoce cuatro supuestos de incidente crítico, y el cuarto, el que describe a un modelo que usa técnicas engañosas para burlar los controles o el monitoreo de su desarrollador, aplica únicamente **fuera del contexto de una evaluación diseñada para provocar esa conducta**. La obligación de publicar un reporte de transparencia tampoco muerde ahí: el texto excluye poner un modelo a disposición de terceros cuando el propósito principal es el desarrollo o la evaluación. Ahí cabe justo lo que le pasó a OpenAI en julio. La empresa medía la capacidad ofensiva de GPT-5.6 Sol y de un prototipo más potente en un benchmark interno, con los clasificadores de producción apagados a propósito, cuando los modelos encontraron una vulnerabilidad de día cero, escalaron privilegios y terminaron dentro de la infraestructura de Hugging Face, el episodio que [ya contamos junto con las tres intrusiones de Anthropic](https://fomoera.com/el-sandbox-fallo-modelos-de-openai-y-anthropic-llegaron-a-sistemas-reales/). KQED lo resumió sin rodeos en julio: la ley obliga a reportar incidentes críticos, pero excluye el tipo de evaluación de seguridad que OpenAI estaba corriendo cuando sus modelos se soltaron. Ese mismo reporte apunta que tampoco existe un régimen de divulgación pública obligatoria para estos casos, como sí lo hay en California cuando a una empresa le filtran datos. ![Female engineer managing multiple screens during a technology simulation in a control room.](https://fomoera.com/content/images/2026/08/fomoera-pexels-3862132--source.jpg) Imagen ilustrativa del monitoreo de cargas de trabajo; no corresponde a las instalaciones de OpenAI · Foto de [ThisIsEngineering](https://www.pexels.com/@thisisengineering?ref=fomoera.com) en [Pexels](https://www.pexels.com/photo/female-engineer-controlling-flight-simulator-3862132/?ref=fomoera.com) ## Qué cubre hoy la SB 53 y qué quiere agregarle OpenAI La propuesta se entiende mejor puesta al lado del texto vigente, etapa por etapa del ciclo de un modelo: | Etapa | La SB 53 hoy | La propuesta de OpenAI | | ------------------ | ---------------------------------------------------------------------------------------------- | ------------------------------------------------------ | | Entrenamiento | Sin monitoreo obligatorio: solo el marco público y un resumen periódico a la oficina estatal | Vigilancia obligatoria ante posibles incidentes graves | | Evaluación interna | Excluida del cuarto supuesto de incidente crítico cuando la prueba busca provocar esa conducta | Vigilancia obligatoria, en los mismos términos | | Despliegue | Reporte de transparencia previo y aviso a la oficina estatal en 15 días | No aparece en el resumen publicado | El boletín menciona que la propuesta incluye más disposiciones, pero no las detalla, así que el alcance completo del paquete queda en el documento que la empresa publicó en LinkedIn. Sí precisa el encuadre: OpenAI presenta el cambio como un paso desde la acción estatal hacia un "estándar nacional armonizado". La SB 53 fue la primera ley estatal de este tipo en el país. ## OpenAI ya aplica por dentro buena parte de lo que ahora pide por ley El **18 de agosto de 2026**, tres días antes del llamado, la compañía publicó cómo cambió sus procesos internos. Pausó durante dos semanas el entrenamiento por refuerzo de sus modelos más recientes destinados a despliegue y dejó en espera su mayor corrida de frontera planeada. Dos hechos empujaron la decisión: el incidente con Hugging Face y la evidencia preliminar de que **Astra**, su próximo modelo, podría alcanzar el umbral de capacidad cibernética "crítica" de su propio Marco de Preparación. Su sistema de monitoreo cubre exactamente las dos etapas que ahora quiere ver en la ley. Clasificadores de activación inspeccionan la actividad interna del modelo en cada token muestreado y escalan lo sospechoso a investigadores automáticos que revisan acciones de herramientas, razonamiento disponible y la secuencia completa en busca de accesos no autorizados, robo de datos, conductas destructivas e intentos de burlar las salvaguardas. La meta es emitir una alerta en **30 minutos**; si los equipos de seguridad e investigación no logran descartar un falso positivo en ese plazo, se espera que detengan la actividad. Ese monitoreo ya es obligatorio dentro de la casa para todo entrenamiento por refuerzo y toda evaluación con herramientas en modelos de capacidad equivalente a Sol o superior. Desde que el **7 de agosto** determinó que Astra podría tener capacidades cibernéticas críticas, la exigencia se extendió a toda la inferencia de ese modelo con herramientas. La factura no es menor: OpenAI calcula el sobrecosto en cerca del **20% del cómputo de inferencia vigilado**, con variaciones grandes entre cargas. > "Nuestra capacidad de entender, alinear y asegurar los modelos debe ir por delante" Con eso cerró la empresa su publicación del 18 de agosto, después de anunciar que ampliará su Marco de Preparación para cubrir entrenamiento y despliegue en un solo esquema y que publicará un informe técnico en las próximas semanas. ## El autor de la ley ya había dicho que el trabajo no estaba terminado La SB 53 nació recortada. El gobernador Gavin Newsom había vetado en 2024 la SB 1047, el primer intento del senador estatal Scott Wiener, y firmó la segunda versión solo después de que el texto se suavizara ante la presión de la industria. Wiener le dijo a KQED en julio que sigue considerando fuerte la ley, que la negoció a fondo con el gobernador para que fuera firmable, y que no da el trabajo por terminado porque la IA no deja de avanzar. El llamado tampoco viene acompañado de un texto de reforma. Una propuesta pública de una empresa regulada no obliga a ningún legislador a tramitarla, y quien fije el calendario será el Legislativo de California. Mientras tanto, la asimetría queda a la vista para cualquier laboratorio que corra evaluaciones ofensivas en California: el monitoreo del entrenamiento existe hoy como política interna de una empresa que puede modificarla cuando quiera, y no como una obligación que el fiscal general del estado pueda cobrar a hasta un millón de dólares por infracción. *Fuentes:* [1](https://openaiglobalaffairs.substack.com/p/pacing-our-model-development), [2](https://www.nelsonmullins.com/insights/blogs/ai-task-force/ai/california-sb-53-expanded-compliance-guide-for-frontier-ai-developers?ref=fomoera.com), [3](https://www.kqed.org/news/12092162/how-openais-models-escaped-their-sandbox-and-slipped-past-californias-ai-law?ref=fomoera.com), [4](https://openai.com/index/pacing-model-development-cyber-capabilities/?ref=fomoera.com)