Dario Amodei, CEO de Anthropic, defendió la estrategia de seguridad de la compañía frente a una crítica de Nathan Calvin, de Encode AI. Enumeró nueve decisiones que considera comercialmente costosas y reconoció fallas al manejar su propuesta de ley federal de IA en Estados Unidos.
Calvin había cuestionado si la empresa antepone la carrera por desarrollar sistemas más potentes a sus compromisos de seguridad. En su publicación del 19 de octubre señaló la expansión del cómputo, el uso de Claude para desarrollar nuevos modelos y el contenido del borrador legislativo, que considera insuficiente para contener los riesgos de modelos avanzados.
Amodei sostiene que su "carrera hacia la cima" exige competir en la frontera tecnológica para elevar las prácticas del sector. Entre sus ejemplos citó los filtros biológicos restrictivos, el acceso inicialmente limitado a modelos de la clase Mythos, las restricciones a empresas controladas desde China y el compromiso de destinar el 5 % de la compañía a un fondo de beneficio público.
El CEO atribuyó los episodios que admitió haber manejado mal a problemas de redacción y coordinación interna. Asumió responsabilidad por ellos y mantuvo su defensa de la estrategia.
El desacuerdo está en las facultades para frenar modelos
La controversia legislativa permite concretar la diferencia entre esas posiciones. En su análisis para Transformer, Shakeel Hashim cuestionó que el borrador de Anthropic exija al Departamento de Comercio acudir a un tribunal federal para bloquear un modelo, con una carga probatoria que considera excesiva. También señaló que los evaluadores podrían certificarse por sí mismos, sin estándares ni licencias como los previstos en la propuesta bipartidista FRONTIER Act.
Hashim advirtió además que desplazar leyes estatales sobre IA, incluidas facultades para suspender modelos por riesgos catastróficos, podría dificultar una intervención. Esa es su lectura del borrador, que sigue siendo una propuesta de la empresa.
Anthony Cimino, responsable de asuntos federales de Anthropic, respondió que la compañía revisará la redacción sobre la prevalencia de la norma federal frente a las estatales. Su objetivo declarado es preservar un papel para los estados en los estándares de evaluación y la capacidad de los laboratorios para apagar modelos.
Cimino defendió la intervención judicial como protección frente a posibles abusos, pero admitió que el requisito para bloquear un sistema debe permitir actuar cuando sea necesario. Añadió que ese mecanismo no reemplazaría otras facultades de seguridad nacional o los controles de exportación del Gobierno.
Qué puede revisar METR y qué conserva Anthropic
Según su actualización del 15 de octubre, Anthropic empezó a conceder a seis integrantes de la organización evaluadora METR acceso a herramientas internas y espacios de trabajo aproximadamente comparable al de sus propios evaluadores de riesgos.
Quedan fuera datos de clientes, información protegida por secreto profesional y determinadas cuestiones de arquitectura de los modelos.
METR puede publicar sus evaluaciones sin veto de Anthropic. La empresa sí puede exigir que oculte información comprendida en categorías predefinidas de confidencialidad y decide qué información entra en ellas. METR conserva el derecho a hacer determinadas declaraciones sobre el acceso recibido.
La compañía describe tres niveles de colaboración. En el inicial, publicar requiere su aprobación; el de METR ofrece mayor acceso y libertad de publicación. El resto de METR permanece separado del trabajo de ese equipo dentro de Anthropic.
