Funcionarios del centro federal de Estados Unidos que evalúa sistemas avanzados de inteligencia artificial recibieron recientemente una petición para informar de manera informal a una oficina de la Casa Blanca, reportó The Associated Press. La agencia citó a dos exfuncionarios y recogió preocupaciones sobre la independencia del trabajo del centro.
El organismo se llama Center for Advancing Innovation and Standards for Super Intelligence, o CAISSI. Forma parte del Instituto Nacional de Estándares y Tecnología (NIST), adscrito al Departamento de Comercio. Entre sus tareas están desarrollar métodos de evaluación y trabajar con empresas para examinar capacidades de IA que puedan presentar riesgos de seguridad nacional.
Los dos exfuncionarios conocen las conversaciones en curso y hablaron bajo anonimato para evitar consecuencias para quienes siguen trabajando en el centro, según AP. La agencia no identificó a la oficina de la Casa Blanca que recibiría los informes ni explicó quién hizo la petición. Su reportaje tampoco describe una transferencia formal de CAISSI fuera del Departamento de Comercio.
La preocupación por la independencia de las pruebas
Caroline Siegel Singh, responsable de un programa sobre IA y tecnologías emergentes en la Federation of American Scientists, dijo a AP que espera que expertos técnicos sin afiliación partidista puedan aplicar políticas en beneficio del público. La preocupación de los críticos que recoge la agencia es que la cercanía política influya en decisiones o en la divulgación de los hallazgos del centro.
AP también señala que otras personas ven una posible ventaja en el acercamiento: mayor visibilidad para la oficina y, quizá, más recursos. El reportaje no identifica a esas personas ni anuncia un aumento de presupuesto.
La Casa Blanca no respondió a las preguntas específicas de AP sobre CAISSI. En su declaración a la agencia, mencionó la creación de la Super Intelligence Force y el informe sobre riesgos que Donald Trump encargó a su Consejo de Asesores en Ciencia y Tecnología.
El centro llega a esta discusión sin un director permanente. Chris Fall renunció en julio, unos tres meses después de asumir, y el director del NIST, Arvind Raman, quedó a cargo de forma interina, informó entonces Reuters con base en una portavoz de Comercio. AP indicó que el centro seguía sin titular permanente al publicar su reportaje.
Los informes que sí están disponibles
La publicación de los resultados ya era motivo de preguntas antes de la petición descrita por AP. El 30 de junio, el senador republicano Ted Budd escribió a responsables de la Casa Blanca tras conocer reportes de que se había pedido detener la difusión de evaluaciones de modelos avanzados. Solicitó que se permitiera al centro publicar su investigación en la medida de lo posible. La carta documenta su preocupación; por sí sola no acredita que esa instrucción siguiera vigente después.
AP afirma que el centro dejó de publicar investigaciones, pero el registro público del NIST contiene documentos posteriores a la carta. El 17 de septiembre, el instituto difundió una evaluación de las capacidades cibernéticas del modelo GLM-5.3, de la empresa china Z.ai. El análisis compara su desempeño con el de otros modelos que CAISI había examinado.
El 16 de octubre, el NIST también publicó con la Agencia de Seguridad Nacional y la Agencia de Seguridad de Infraestructura y Ciberseguridad una guía de prácticas para responder a incidentes durante el entrenamiento y la evaluación de sistemas avanzados. Son documentos públicos posteriores a la carta, aunque no aclaran cuántas evaluaciones siguen sin divulgarse ni el alcance de las restricciones reportadas.
El papel de las empresas en las evaluaciones
El NIST explica que CAISSI establece acuerdos voluntarios con desarrolladores y evaluadores privados. Esa relación permite al gobierno examinar sistemas avanzados junto con quienes los construyen, pero la existencia de una evaluación no significa que todos sus detalles sean públicos.
La discusión coincide con el pacto voluntario que Trump firmó en septiembre con líderes de seis empresas tecnológicas. El documento propone controles internos y auditorías externas, entre otras medidas; no fija plazos ni una autoridad pública encargada de exigir su cumplimiento.
Patricia Rodriguez
AP no informó si la petición de reportar a la Casa Blanca modifica los acuerdos de CAISSI con las empresas o las decisiones sobre qué resultados se hacen públicos. Esas condiciones determinarían cuánto puede conocer la sociedad sobre las pruebas gubernamentales de los modelos.
