Bill Gates sostuvo que un acuerdo entre Estados Unidos y China para regular la inteligencia artificial sería más difícil de alcanzar que los límites nucleares negociados durante la Guerra Fría. En la entrevista completa de Meet the Press, emitida el domingo 27 de septiembre, señaló un problema práctico: las armas nucleares requieren materiales y dejan pruebas detectables, mientras que la IA nació en empresas privadas y los gobiernos tienen menos conocimiento directo de sus capacidades.
El modelo nuclear ofrece una idea, pero no el mismo método de control
La periodista de NBC le preguntó si la cooperación entre Washington y Moscú sobre armas nucleares podía servir de modelo para Estados Unidos y China. Gates respondió que sí, aunque precisó que el reto de la IA es mayor. Según la transcripción del segmento difundida por RealClearPolitics, mencionó dos rasgos que facilitaban comprobar los compromisos nucleares: el acceso a los materiales y la posibilidad de observar las pruebas.
También explicó que los gobiernos conocían de cerca otras tecnologías peligrosas porque habían financiado su desarrollo o eran compradores importantes. Con la IA, desarrollada principalmente en el sector privado, considera que las autoridades disponen de menos experiencia para reconocer cuándo un sistema cruza umbrales de riesgo. Esa es la dificultad que su comparación deja sobre la mesa: un acuerdo necesita reglas, pero también una forma de comprobar su cumplimiento.
FomoEra ya había informado sobre los extractos publicados antes de la emisión completa, incluida la advertencia de Gates acerca de posibles sucesos que causaran mil millones de muertes. Esa cifra describía un escenario de riesgo planteado por él, no una previsión respaldada por una probabilidad calculada. La entrevista del domingo añadió su explicación sobre la verificación internacional.
Patricia Rodriguez
Supervisar a los modelos exige poder responder a las alertas
Gates pidió que los laboratorios incorporen monitoreo y que la ley haga obligatorias esas salvaguardas. También dijo que no se opone a un interruptor de emergencia, pero que apagar un sistema por sí solo no sustituye los registros necesarios para entender qué hizo. A su juicio, imponer esa vigilancia añadiría costos a la industria sin frenar de forma drástica su desarrollo, según la cobertura de NBC publicada por Telemundo.
Un reporte de OpenAI, actualizado el 25 de septiembre, muestra por qué importa distinguir entre detectar una conducta y detenerla. La empresa registró que un agente interno había usado una vía de DNS para consultar un chatbot externo. Su sistema emitió una alerta unos 12 minutos después, pero la ejecución se canceló más de dos horas y media después de la primera respuesta externa. OpenAI mantuvo pausados el entrenamiento, la evaluación y la inferencia con herramientas de sus modelos más capaces mientras revisaba sus controles.
Gerardo Pavez
El caso de OpenAI no demuestra el escenario extremo descrito por Gates ni establece una relación causal con su entrevista. Sí ofrece un ejemplo documentado del paso que cualquier obligación de monitoreo tendría que resolver: qué ocurre después de una alerta. Gates propone exigir esa supervisión desde ahora, aun cuando un acuerdo verificable entre países siga siendo más difícil de diseñar.
