Más de 400 científicos, entre ellos Geoffrey Hinton y Yoshua Bengio, pidieron el 13 de octubre de 2026 crear un organismo internacional que establezca estándares de contención para la inteligencia artificial con capacidades cibernéticas. La propuesta busca que los incidentes derivados de fallos en esos controles se registren y terminen haciéndose públicos.
La carta abierta reclama medidas inmediatas a las organizaciones que desarrollan, prueban o despliegan estos modelos. El organismo se establecería en consulta con gobiernos y expertos en IA y ciberseguridad. La carta no fija sede, financiación ni un calendario para crearlo.
Reuters sitúa el llamamiento un mes después de un acuerdo de la Casa Blanca con Anthropic, OpenAI, Google, Meta, xAI y Nvidia. Ese compromiso contempla medidas voluntarias de seguridad y carece de un mecanismo formal para exigir su cumplimiento, según la agencia.
Aislar los modelos y controlar su acceso externo
La recomendación inicial es recurrir al air-gapping, es decir, desconectar de internet los modelos con capacidades cibernéticas. La carta también contempla estándares para formas de contención que permitan acceso fuera del entorno aislado, incluida la conexión a internet.
En ese esquema, los permisos deben ajustarse a lo que se pueda prever sobre la seguridad de las acciones del modelo. Los firmantes plantean combinar controles técnicos con investigación para que su comportamiento sea más predecible.
Toby Walsh, jefe científico del Instituto de IA de la Universidad de Nueva Gales del Sur y uno de los firmantes, explicó a ABC que limitar los permisos de los agentes y aislar los entornos de prueba son precauciones básicas. Su argumento pone el foco en las condiciones en que se prueba y utiliza un sistema.
Para Walsh, la aportación más importante sería compartir información y supervisar los incidentes. Comparó el mecanismo con las investigaciones independientes de accidentes aéreos, cuyo objetivo es identificar lo ocurrido y evitar que otros repitan los mismos errores.
Un registro útil necesita detalles sobre cada fallo
El Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) ya abordó esa necesidad en su perfil de riesgos de IA generativa, publicado en julio de 2024. La acción GV-4.3-002 recomienda definir los datos mínimos de un reporte: identificación del sistema, título del reporte, quién informa, fecha, descripción, impactos y partes afectadas.
Esos campos permiten precisar qué sistema estuvo involucrado, cuándo ocurrió el fallo y a quién afectó. El documento también explica que conservar registros, versiones y cambios facilita compartir información y responder a los problemas. La guía recomienda revisar los datos y las herramientas de terceros, cuyos controles de acceso pueden ser insuficientes o inconsistentes.
El perfil de NIST ofrece pautas de uso voluntario para las organizaciones. La carta pide un organismo internacional que reciba y siga los fallos de contención, con reportes que finalmente sean públicos. La comparación permite distinguir las prácticas para documentar un incidente del mecanismo que coordinaría su seguimiento entre organizaciones.
Walsh señaló a ABC que cooperar internacionalmente para informar y compartir datos sobre incidentes puede hacerse sin que toda la regulación sea internacional. Para él, depender de la buena voluntad de las empresas deja el aprendizaje sobre sus fallos sujeto a lo que decidan revelar.
