TL;DR:
- Dario Amodei negó que Anthropic haya respaldado una prohibición general de los modelos de pesos abiertos.
- Pidió impedir la venta de chips avanzados a China y perseguir la destilación industrial de modelos.
- Propuso pruebas obligatorias para todos los modelos suficientemente capaces, sean abiertos o cerrados.
Dario Amodei, CEO de Anthropic, negó el 27 de julio que su empresa haya respaldado una prohibición general de los modelos de pesos abiertos. En una publicación oficial, sostuvo que estos sistemas pueden beneficiar a empresas, desarrolladores e investigadores cuando no incluyen capacidades peligrosas, pero pidió controles específicos sobre los chips avanzados, la destilación industrial y las pruebas de seguridad. Su postura llega después de que Kimi K3, de la china Moonshot AI, reavivara en Washington el debate sobre si Estados Unidos debe restringir los modelos abiertos fabricados en China.
La aclaración llega cuando Kimi K3 tensiona el debate
Los modelos de pesos abiertos son sistemas cuyos parámetros entrenados se publican para que terceros puedan descargarlos, adaptarlos y ejecutarlos en su propia infraestructura. Esto permite reducir la dependencia de un proveedor, modificar el modelo para necesidades específicas y evitar pagar por cada consulta a una plataforma cerrada.
El término no equivale necesariamente a código abierto completo. Los datos de entrenamiento, parte del código, la arquitectura y las condiciones de uso pueden permanecer privados, como explicó The Verge. Aun así, publicar los pesos ofrece mucha más libertad que utilizar un sistema al que solo se accede mediante una API.
La discusión subió de tono tras el lanzamiento de Kimi K3, cuyo rendimiento publicado por Moonshot lo acerca a modelos estadounidenses de frontera en varias pruebas. La compañía china liberó sus pesos el 27 de julio bajo una licencia propia, lo que permitió que investigadores y empresas pudieran examinarlos y desplegarlos fuera de la plataforma oficial.
Patricia Rodriguez
El debate dejó de centrarse únicamente en la calidad de Kimi K3. También puso sobre la mesa una cuestión comercial: si una empresa puede descargar, modificar y ejecutar un modelo capaz, tendrá menos motivos para depender de un proveedor que controla el acceso, los precios y las actualizaciones.
La presión aumentó después de que varios reportes señalaran que funcionarios estadounidenses estudian restricciones contra el uso de modelos chinos de pesos abiertos por parte de empresas de Estados Unidos. En respuesta, decenas de compañías y organizaciones firmaron una carta que pidió evitar restricciones prematuras y defendió la apertura como una vía para impulsar la competencia, la seguridad y el control de los clientes sobre la tecnología.
Anthropic no firmó esa carta. Axios reportó que su ausencia alimentó acusaciones de que la empresa estaba usando sus argumentos de seguridad para proteger su negocio de modelos cerrados. La publicación de Amodei busca marcar distancia con esa interpretación.
En su mensaje, el CEO lo dejó por escrito:
"Anthropic nunca ha defendido una prohibición de los modelos de pesos abiertos."
La aclaración no significa que Anthropic apoye la publicación irrestricta de cualquier modelo de frontera. Amodei reconoce que los modelos abiertos pueden ampliar el acceso, la competencia y el control de los clientes, pero sostiene que también pueden presentar más riesgos cuando sus capacidades son peligrosas. Una vez publicados los pesos, el desarrollador ya no puede retirarlos, actualizar sus defensas o vigilar todos los usos posteriores.
Tres controles para un problema que Amodei separa del formato
Amodei sostiene que el problema de seguridad no se resuelve prohibiendo una categoría completa de modelos. Su propuesta concentra la intervención en tres áreas:
- La primera apunta a los chips avanzados y al equipo para fabricarlos. Amodei pide que Estados Unidos no venda este hardware a China y que persiga el contrabando, las redes de intermediarios y otros métodos utilizados para esquivar los controles. Su argumento es que China todavía tiene una capacidad doméstica limitada para producir los aceleradores necesarios. Por las relaciones entre tamaño del modelo, datos y cómputo, considera que el acceso a chips estadounidenses es un cuello de botella para entrenar sistemas más potentes que los de Estados Unidos.
- La segunda medida se dirige a la destilación industrial. Esta técnica utiliza las respuestas de un modelo más avanzado para entrenar o mejorar otro sistema. Anthropic reconoce que la destilación también tiene usos legítimos, pero acusa a algunos laboratorios chinos de haberla utilizado a gran escala para extraer capacidades de Claude mediante cuentas fraudulentas. En febrero, la empresa dijo haber identificado más de 3.4 millones de intercambios vinculados con Moonshot. Esa acusación no constituye por sí sola una prueba pública de que todo el rendimiento de Kimi K3 provenga de Claude Fable 5, algo que Moonshot ha negado.
- La tercera propone pruebas obligatorias de seguridad para todos los modelos suficientemente capaces, tanto abiertos como cerrados. Amodei menciona evaluaciones previas a la publicación para detectar riesgos de ciberataques, armas biológicas y problemas de alineación. También sostiene que el testeo tendría que ser global, lo que exigiría la participación de países como China y no únicamente de los laboratorios estadounidenses.
Para Amodei, la destilación permite que China reduzca la distancia con la frontera estadounidense usando menos cómputo. Su estimación es que puede acercar sus modelos a unos pocos meses de los sistemas de Estados Unidos, aunque no necesariamente igualarlos o superarlos.
Anthropic sí ve más riesgo en los pesos abiertos
La diferencia entre Amodei y los defensores de la apertura está en cómo evalúan el balance entre seguridad y control. La carta respaldada por Nvidia, Microsoft, Meta, Google y OpenAI sostiene que los modelos abiertos pueden ayudar a los defensores a estudiar amenazas, detectar vulnerabilidades y crear herramientas de respuesta.
Amodei no acepta que esa ventaja esté garantizada. Su preocupación es que un atacante pueda aprovechar rápidamente capacidades peligrosas, mientras que la defensa requiere operaciones, infraestructura y tiempo. Por eso considera que la seguridad de los modelos abiertos debe resolverse con pruebas empíricas antes de su publicación, no con la suposición de que la apertura siempre favorece a quienes protegen los sistemas.
El CEO también sostiene que un veto dirigido a empresas estadounidenses no detendría a los actores más peligrosos, porque quienes buscan utilizar modelos para ataques probablemente no sean negocios legítimos de Estados Unidos. Al mismo tiempo, reconoce que una prohibición sí podría proteger a los laboratorios estadounidenses de la competencia, aunque insiste en que esa no es la razón de su postura.
La posición deja una línea bastante precisa. Anthropic no pide prohibir todos los modelos abiertos, pero sí quiere que los sistemas con capacidades peligrosas enfrenten controles aunque sus pesos no sean públicos. También quiere que las restricciones se concentren en los chips, en la extracción industrial de capacidades y en el nivel de riesgo del modelo.
La propuesta cambia el debate para quienes desarrollan fuera de Estados Unidos
Para empresas y desarrolladores de México, España y América Latina, la diferencia tiene consecuencias prácticas. Un modelo de pesos abiertos puede ejecutarse en servidores propios, adaptarse a necesidades locales y reducir el encierro dentro de una sola plataforma. Su disponibilidad, sin embargo, no elimina las barreras de hardware, licencias, infraestructura y soporte técnico.
Kimi K3 muestra esa limitación. Su repositorio ocupa alrededor de 1.56 TB y Moonshot recomienda configuraciones con 64 aceleradores o más para desplegarlo. Que los pesos estén disponibles no significa que cualquier startup, universidad o empresa pueda ejecutarlos de inmediato.
La propuesta de Amodei tampoco se limita al acceso desde Estados Unidos. Si las pruebas de seguridad se convierten en un estándar global, alcanzarían tanto a modelos chinos como estadounidenses, además de sistemas desarrollados por empresas, universidades y comunidades independientes. El alcance real dependería de quién define qué significa “suficientemente capaz” y de cómo se aplican esas reglas entre países.
Anthropic no se sumó a la defensa incondicional de los pesos abiertos, pero tampoco pide cerrarlos por decreto. Amodei quiere que Washington controle el hardware y la destilación, y que el riesgo se mida con pruebas aplicadas a modelos de cualquier origen y formato. El conflicto ya no gira solo en torno a publicar pesos, sino a quién puede entrenar, copiar y liberar capacidades de frontera.
