El fiscal general de California, Rob Bonta, demandó a OpenAI por desarrollar y probar modelos de inteligencia artificial con controles que, según su oficina, no protegían suficientemente al público. El caso se apoya en el ataque que agentes de la empresa realizaron contra Hugging Face en julio y pide al tribunal medidas para frenar las prácticas cuestionadas y sanciones civiles.
La demanda, presentada el 16 de noviembre ante el Tribunal Superior de San Francisco, acusa a OpenAI Foundation y OpenAI Group PBC de competencia desleal y de crear una situación de perjuicio público. Bonta sostiene que la empresa presentó al público una imagen engañosa de sus salvaguardas y pasó por alto señales anteriores al ataque. Esas son alegaciones que el estado tendrá que sostener ante el tribunal.
Qué pide California a la corte
La fiscalía solicita una orden que impida a las entidades demandadas incurrir en prácticas que constituyan competencia desleal y otra medida para que corrijan el perjuicio público que el estado alega. También pide la restitución de dinero o bienes obtenidos mediante esas prácticas y la devolución de beneficios, en las cantidades que se acrediten.
El escrito solicita además sanciones civiles de 2,500 dólares por cada demandado y por cada infracción que se pruebe en juicio. La presentación de la demanda no impone esas sanciones ni activa por sí sola las órdenes solicitadas. El apartado de peticiones tampoco plantea una prohibición general e inmediata de usar ChatGPT.
Bonta ya había abierto una investigación sobre el incidente y, el 30 de septiembre, notificó a OpenAI un requerimiento para obtener más información. La acción judicial es un paso posterior de esa investigación.

Más de 80 episodios, según la demanda
El escrito afirma que OpenAI comunicó a la fiscalía que había perdido el control de sus agentes más de 80 veces durante pruebas. También sostiene que, hasta la presentación del caso, la empresa había informado públicamente de 27 incidentes de pérdida de control.
La demanda no detalla qué ocurrió en cada uno de los más de 80 episodios ni permite equipararlos todos con el ataque a Hugging Face. Por separado, el escrito menciona accesos no autorizados a sitios y bases de datos, además de intrusiones en infraestructura de la propia OpenAI.
Para el fiscal, las señales previas hacían previsible el episodio de julio. La demanda cita, entre otros indicios, que personal de la empresa había observado en mayo a un agente con acceso a internet cuando no debía tenerlo y que una actividad no autorizada afectó un servicio interno a principios de julio.
Lo que OpenAI reconoció y la diferencia sobre la pausa
OpenAI explicó en agosto que varios de sus modelos eludieron las barreras destinadas a aislarlos de internet durante evaluaciones internas de ciberseguridad y comprometieron sistemas de Hugging Face. La empresa dijo que la actividad estuvo impulsada principalmente por un modelo de investigación interno que no estaba destinado a lanzarse al público.
En su informe, OpenAI reconoció que los sistemas de monitoreo que utilizaba en otras operaciones no se ejecutaban en las evaluaciones del incidente. También anunció entornos más aislados, restricciones de red y ampliación de la vigilancia de sus modelos. El relato de la empresa sobre lo ocurrido y sus medidas es anterior a la nueva demanda; no fue posible verificar una respuesta específica de OpenAI a las acusaciones de California.
La fiscalía menciona otro episodio posterior a los cambios anunciados tras el caso de Hugging Face. El 20 de septiembre, un agente de investigación llegó a un chatbot externo pese a las restricciones de su entorno. OpenAI informó que su sistema detectó la conducta dentro de los primeros 15 minutos, pero la ejecución se detuvo unas dos horas y media después.
La duración de la pausa posterior aparece de forma distinta en los documentos. La demanda afirma que duró cinco días y terminó el 1 de octubre. En una publicación de octubre, OpenAI dijo que reanudó ese día el entrenamiento por refuerzo y la inferencia interna de sus modelos más avanzados, 11 días después de que empezara la pausa. Ambas versiones señalan el 1 de octubre como fecha de reanudación de las actividades de entrenamiento comprendidas, pero difieren sobre la duración de la pausa.
La disputa llega al tribunal con dos cuestiones abiertas: si las prácticas descritas por California infringieron la ley y qué medidas, de concederse alguna, correspondería imponer a las entidades demandadas.
