Los negociadores del Senado de Estados Unidos discuten una ley que obligaría a las empresas de inteligencia artificial a diseñar sus productos para prevenir riesgos catastróficos y daría al gobierno federal el poder de frenar el lanzamiento de un modelo que considere inseguro, según un reporte de Reuters publicado el 11 de septiembre de 2026 y firmado por Courtney Rozen. Las empresas podrían impugnar esa decisión ante un tribunal federal. La medida se aplicaría a los modelos de mayores capacidades, los que hoy desarrollan compañías como Google, de Alphabet, Anthropic y OpenAI. Todo sigue en negociación, empezando por cuánto poder tendría el gobierno para detener un lanzamiento.
El deber de cuidado pondría la carga en el diseño, antes del lanzamiento
La figura que discuten los negociadores se llama deber de cuidado, un estándar que en el derecho estadounidense obliga a actuar con cierta diligencia para evitar un daño previsible. Aplicado a la IA, según el reporte, significaría que las empresas tendrían que diseñar sus modelos con la meta de prevenir daños catastróficos.
La conversación la llevan el líder de la mayoría del Senado, John Thune; el presidente del Comité de Comercio, Ted Cruz, y Amy Klobuchar, la demócrata de mayor rango entre quienes participan en las negociaciones. El comité que preside Cruz supervisa al Departamento de Comercio, la dependencia que tiene investigadores propios de seguridad en IA. Klobuchar dijo a Reuters que sigue buscando un acuerdo bipartidista de supervisión gubernamental sobre los mayores riesgos de los modelos, y que eso incluye que los desarrolladores "trabajen con expertos del gobierno para verificar y probar los modelos". Maria Cantwell, la demócrata de mayor rango en el Comité de Comercio, escribió en X que una ley con sentido obligaría a que los modelos más potentes pasen por pruebas de científicos de los laboratorios nacionales, para evaluar si pueden habilitar ciberataques sofisticados o ayudar a desarrollar armas biológicas o nucleares. Cruz publicó en la misma red que trabaja con Klobuchar y Thune en una legislación para atender riesgos catastróficos de tipo biológico o nuclear. Un vocero de Thune declinó comentar.
Conviene mirar de dónde sale cada pieza: las mecánicas concretas del acuerdo provienen de personas que hablaron sin ser identificadas. Esto es lo que plantearía la propuesta y quién lo sostiene en el reporte:
| Qué plantearía | Quién lo sostiene |
|---|---|
| Un deber de cuidado para los desarrolladores | Dos asesores del Senado |
| Diseñar los productos para prevenir riesgos catastróficos | Un asesor del Senado |
| Poder del gobierno para frenar el lanzamiento de ciertos modelos | Una fuente cercana a las deliberaciones y uno de los asesores |
| Entrada de los tribunales federales si el gobierno quiere frenar un lanzamiento | Un asesor del Senado y un cabildero que participa en las negociaciones |
| Impedir que los estados apliquen sus leyes sobre ciertos riesgos de los modelos | Los dos asesores del Senado |
Los riesgos que cita un asesor ya tienen casos documentados
Uno de los asesores citados por Reuters puso ejemplos de lo que entiende por riesgo catastrófico: que alguien con malas intenciones use un sistema de IA para diseñar armas nucleares o biológicas. Un día antes, el 10 de septiembre, Anthropic publicó su informe de inteligencia de amenazas, que documenta operaciones detectadas y desactivadas entre diciembre de 2025 y agosto de 2026 en siete áreas de daño, entre ellas el uso indebido con fines biológicos y el desarrollo de armamento convencional. La empresa dice que en cada caso bloqueó la actividad, endureció sus salvaguardas y compartió información con autoridades y socios de la industria.
De acuerdo con ABC News, que revisó el documento, el informe detalla cinco estudios de caso de usos que podrían apoyar el desarrollo de armas biológicas, y en uno de ellos un investigador entró a Claude desde una región donde el servicio no está disponible. Anthropic cerró las cuentas involucradas y describió esa investigación como de doble uso, porque el mismo conocimiento sirve para anticipar una variante peligrosa y para volverla más peligrosa.
Y aun así dejó asentado algo que cualquier regulador tendrá que resolver: no afirma que esos usuarios pretendieran causar daño. El reporte de Reuters no detalla con qué criterio decidiría el gobierno que un modelo es inseguro.
El bloqueo a los estados regresa, esta vez acotado a ciertos riesgos
La parte del paquete que no llegó a los titulares es la que puede pesar más en el corto plazo: según los dos asesores, la medida también impediría a los estados aplicar sus propias leyes sobre ciertos riesgos de los modelos de IA. No es una moratoria general, sino un bloqueo limitado a esa categoría, y su alcance exacto está entre las cosas que siguen sin definirse.
El antecedente es reciente y terminó mal para quien lo intentó. El 1 de julio de 2025, el Senado votó 99-1 para eliminar del paquete presupuestal una moratoria de diez años a las leyes estatales de IA, impulsada por Cruz. La enmienda que la tumbó fue de la republicana Marsha Blackburn y de la propia Cantwell, hoy sentada en esta negociación. El único voto en contra fue el del senador Thom Tillis.
Desde entonces, los estados no se quedaron quietos. California sumó esta semana dos leyes sobre quién evalúa los sistemas de IA, y ese reparto de competencias entre Sacramento y Washington es justo lo que la cláusula tocaría.
Gerardo Pavez
Qué normas estatales sobrevivirían al texto federal es una pregunta abierta, porque depende de cómo quede redactada la lista de riesgos cubiertos. Reuters no reporta que los negociadores la hayan cerrado.
El calendario puede decidir más que el acuerdo
Las conversaciones ocurren en medio de una presión creciente sobre el Congreso y sobre el presidente Donald Trump para atender los riesgos de los sistemas avanzados de IA. Esa presión se intensificó tras los reportes de agentes de IA que se desviaron de las instrucciones humanas y hackearon sistemas externos, y tras las advertencias públicas de investigadores que salieron de las empresas líderes. Legisladores de los dos partidos pidieron mayor supervisión en los últimos días.
Aunque los negociadores cierren el acuerdo, la aritmética del calendario es dura. La Cámara de Representantes tiene programada una sola semana de sesiones antes de las elecciones intermedias del 3 de noviembre, mientras que el Senado espera permanecer tres semanas en Washington. Ese margen, y no el consenso entre Thune, Cruz y Klobuchar, es lo que decide si el texto llega a votarse este año.
