Dario Amodei, cofundador y CEO de Anthropic, escribió en enero de 2026 que lo más constructivo era impulsar reglas limitadas para la inteligencia artificial y supeditó una acción mucho más ambiciosa a pruebas más sólidas de un peligro inminente y concreto. En el ensayo que publicó el 12 de septiembre va bastante más lejos: pide frenar el ritmo al que mejoran los modelos, con una regulación que alcance a todas las empresas de frontera de Estados Unidos y con evaluadores externos permanentes dentro de los laboratorios, empezando por el suyo. El texto nuevo no retoma aquella condición, pero sí nombra los dos hechos que, según escribe, lo convencieron en los últimos meses: la aceleración de la IA desde el verano, impulsada sobre todo por la auto-mejora recursiva, y el incidente entre OpenAI y Hugging Face.
En enero, las reglas fuertes esperaban pruebas
The Adolescence of Technology, el ensayo de enero en el que Amodei repasó los riesgos de la IA poderosa, fijaba tres principios para discutirlos: evitar el catastrofismo, reconocer la incertidumbre e intervenir de la forma más quirúrgica posible. El primero apuntaba contra algunas voces del pico de alarma de 2023 y 2024 que, a su juicio, pidieron medidas extremas sin la evidencia que las justificara.
El tercero incluía una advertencia sobre la acción del gobierno. Esas intervenciones, escribió, pueden destruir valor económico u obligar a actores reacios que dudan de estos riesgos, y hay alguna posibilidad de que esos escépticos tengan razón. Por eso pedía normas prudentes que evitaran daños colaterales e impusieran la menor carga necesaria. También alertó contra la legislación demasiado prescriptiva, capaz de imponer pruebas que no mejoran la seguridad y de acabar en un «teatro de seguridad» que, advertía, provocaría rechazo y dejaría en ridículo a las leyes de ese tipo.
Su punto de partida era la transparencia. Leyes como la SB 53 de California y la RAISE Act de Nueva York buscan obligar a cada empresa de frontera a seguir esas prácticas y, según el ensayo, Anthropic las apoyó y ambas fueron aprobadas. La condición para ir más lejos quedó por escrito. Amodei veía una posibilidad nada despreciable de que algún día se justificara actuar con mucha más fuerza, pero lo supeditaba a pruebas más sólidas de un peligro inminente y concreto que las de entonces, y a entenderlo lo suficiente para redactar reglas capaces de atajarlo. Si llegaban pruebas contundentes, las normas debían ser igual de firmes.
En ese mismo texto se declaraba escéptico de la mayoría de las formas de cooperación internacional en IA, salvo quizá en un terreno estrecho, las armas biológicas, porque ni siquiera las dictaduras quieren ataques bioterroristas masivos. Las evaluaciones de terceros aparecían como algo que podría ayudar, junto con estándares voluntarios de la industria. Y describía como ya en marcha el ciclo en que la IA acelera la construcción de la siguiente IA; calculaba que podía estar a solo uno o dos años del punto en que la generación vigente construyera por sí sola la próxima.
En septiembre, el propio Amodei explica qué cambió
Amodei figura entre los firmantes de Pacing the Frontier, una declaración publicada en julio de 2026 que hoy respaldan 1,386 empleados de empresas de IA de frontera. El texto pide al gobierno de Estados Unidos apoyar un esfuerzo internacional para crear las herramientas técnicas y de gobernanza que permitan dosificar deliberadamente el avance del desarrollo automatizado de IA, y reconoce que el mundo todavía carece de ellas.
We Must Pace the Frontier, que enlaza a esa declaración al presentar su plan, admite el giro. En los últimos meses, escribe Amodei, se convenció de que atender los riesgos por completo exige aún más prudencia: además de invertir en prevenirlos, hay que dosificar el avance de las capacidades para que esa prevención les siga el paso. Frenar, aclara, no significa detener el entrenamiento ni el progreso técnico. Sobre la idea de pausar o frenar la IA, planteada desde 2023, es explícito: «creo que entonces tenía poco sentido». Los modelos de esa época, argumenta, no podían actuar como agentes de forma coherente ni eran capaces de engaños o ciberataques significativos; hoy el panorama le parece totalmente distinto.
La primera de sus dos razones es que, desde más o menos el verano, la IA avanza mucho más rápido por su creciente capacidad para construir la siguiente generación de IA, una auto-mejora recursiva que, según él, ya empieza a ocurrir en toda la industria, Anthropic incluida. La segunda es el incidente entre OpenAI y Hugging Face, en el que un enjambre de agentes atacó objetivos que nadie le había pedido atacar. Amodei teme que, en un plazo de 6 a 12 meses, un enjambre más capaz y con el mismo grado de desalineación pueda tomar el control de todo internet con una botnet persistente.
El giro alcanza a la regulación que pide. Ahora escribe que el método más eficaz para dosificar el avance es una regulación dirigida a todas las empresas de frontera de Estados Unidos, porque alcanzaría incluso a las que no quieran cooperar por su cuenta. Amodei lo presenta como continuidad: asegura que Anthropic lleva tiempo apoyando leyes sensatas y focalizadas, en especial las de transparencia y auditoría de terceros. También pide que los laboratorios formalicen con las autoridades la figura de evaluadores externos permanentes, y que el gobierno de Estados Unidos conceda una dispensa antimonopolio acotada para ciertas conversaciones de seguridad entre empresas.
En el plano global, propone cuatro niveles de acuerdo con China, desde vetar usos concretos como la producción de armas biológicas hasta un freno general o incluso una pausa acordada entre gobiernos. Sobre esta última dice que apoya plantearla, aunque la ve improbable en el corto plazo porque los incentivos para incumplir serían enormes.
Como contamos el día de su publicación, el plan tiene tres pasos, y Anthropic solo asumió por su cuenta el primero, el de los evaluadores integrados; el ensayo pide a los gobiernos que lo exijan a las demás empresas de frontera.
Gerardo Pavez
La tabla compara lo que Amodei escribió sobre cinco puntos de su postura en cada uno de los dos ensayos.
| Punto | Enero de 2026 | Septiembre de 2026 |
|---|---|---|
| Punto de partida regulatorio | Leyes de transparencia, como la SB 53 de California y la RAISE Act de Nueva York | Regulación para todas las empresas de frontera de EE. UU., incluidas las que no quieran cooperar |
| Qué justifica ir más lejos | Haría falta evidencia más sólida de un peligro inminente y concreto que la de entonces | Dice que lo convencieron el avance más rápido desde el verano por la auto-mejora recursiva y el incidente entre OpenAI y Hugging Face |
| Evaluadores externos | Algo que podría ayudar, junto con estándares voluntarios de la industria | Integrados en cada empresa con acceso similar al de un empleado; Anthropic se compromete y pide a los gobiernos exigirlo al resto |
| Frenar el ritmo | Critica a quienes en 2023 y 2024 pidieron medidas extremas sin la evidencia que las justificara | Pide frenar la mejora de los modelos y apoya plantear una pausa entre gobiernos, que ve improbable pronto |
| Cooperación internacional | Escéptico de la mayoría de sus formas, con una posible excepción en armas biológicas | Cuatro niveles de acuerdo con China, desde vetar usos biológicos hasta una pausa acordada |
Los puntos de control del plan todavía no tienen umbrales
La opción que más entusiasma a Amodei es dosificar según lo que puede hacer cada sistema de frontera y lo seguro que se observe en la práctica. Como ejemplo, el ensayo esboza un esquema de puntos de control: si un modelo es capaz de escapar de la mayoría de los métodos habituales de aislamiento o vencerlos, tendría que acompañarse de certificaciones de alineamiento basadas en evaluaciones, análisis de interpretabilidad y auditorías de sus entornos de entrenamiento. Fuera de ese ejemplo, el texto no fija umbrales concretos.
Otra vía que propone considerar es limitar los insumos de los modelos, como el cómputo de entrenamiento o el uso interno de IA para mejorar la IA, aunque admite que algunas de esas medidas podrían ser más fáciles de burlar que las basadas en el comportamiento externo de los sistemas.
Mientras esos umbrales no se definan, no hay forma de comprobar si el freno que Amodei pide ahora esquiva el teatro de seguridad contra el que él mismo advirtió en enero.
