El borrador de ley federal de inteligencia artificial de Anthropic recibió críticas de especialistas de Encode y LawAI por los obstáculos que plantea para frenar modelos peligrosos en Estados Unidos. La compañía anunció que revisará el lenguaje sobre las facultades de los estados, uno de los puntos cuestionados.
En un análisis publicado el 19 de octubre, Transformer sostuvo que el texto es más débil que el FRONTIER Act, la iniciativa bipartidista de la demócrata Lori Trahan y el republicano Jay Obernolte presentada en julio. Anthropic describe su propuesta como un texto de discusión compartido con un pequeño número de oficinas del Congreso.
Las auditorías tendrían menos supervisión federal que en FRONTIER
El marco público que Anthropic difundió en junio propone pruebas de riesgos catastróficos, evaluaciones externas y facultades gubernamentales para bloquear despliegues peligrosos. También condiciona la sustitución de leyes estatales a que exista una norma federal al menos igual de exigente.
En el borrador filtrado, los evaluadores certificarían su competencia e independencia y se registrarían ante el Departamento de Comercio, que diseñaría un sistema de calificación. Los estándares de evaluación que emitiera la agencia serían orientativos.
El FRONTIER Act exige que las organizaciones que verifican a los desarrolladores de mayor tamaño obtengan una licencia federal. Comercio podría revocarla si pierden independencia o sus métodos dejan de ser adecuados para evaluar los riesgos.
Charlie Bullock, de LawAI, advirtió que los auditores podrían competir por ofrecer las revisiones menos exigentes, según recoge Transformer. En su valoración pública también reconoció mejoras del borrador en el acceso de los evaluadores a la información de los laboratorios.
Suspender un modelo exigiría acudir a un tribunal
La sección 12 permitiría a Comercio solicitar a un tribunal federal de Washington la suspensión del desarrollo, despliegue o uso interno de un modelo ante un riesgo inminente. Tendría que justificar que ninguna medida menos restrictiva bastaría para reducirlo adecuadamente.
La definición abarca riesgos de muerte o lesiones graves de más de 50 personas, o daños o pérdidas en bienes por más de 1,000 millones de dólares, por un solo incidente. El umbral se refiere al peligro previsto, antes de que el daño ocurra.
Nathan Calvin, asesor jurídico de Encode, cuestionó la elevada carga que el borrador impone a las autoridades federales. En su publicación del 16 de octubre sostuvo que, combinada con la restricción de facultades estatales, podría dejar al público menos protegido que bajo la legislación actual.
Anthropic promete precisar las facultades de los estados
La sección 14 desplazaría normas estatales sobre divulgación, evaluaciones, reportes de incidentes y suspensión de modelos por determinados riesgos. Conserva excepciones para protección de menores, denunciantes y reclamaciones de responsabilidad bajo el derecho estatal.
Anthony Cimino, responsable de asuntos federales de Anthropic, anunció el 18 de octubre que actualizarán esa cláusula. La intención, explicó, es aclarar el papel que conservarían los estados para fijar estándares de evaluadores independientes y regular la capacidad de los laboratorios para apagar modelos.
Cimino defendió la revisión judicial como protección frente a posibles abusos del Gobierno, aunque reconoció que el listón para intervenir debe permitir actuar cuando sea necesario. También anunció trabajo adicional sobre evaluadores independientes y opciones para evitar que los laboratorios elijan a los más complacientes.
El directivo sostuvo que el umbral de riesgo no libera a las compañías de responsabilidad. Añadió que el mecanismo propuesto preservaría otras facultades federales de seguridad nacional y los controles de exportación.
