Un informe de inteligencia elaborado con ayuda de un chatbot estuvo a punto de llevar a Estados Unidos a interceptar un barco chino en Medio Oriente, al asegurar que transportaba componentes de un programa de armas nucleares. Según CNN, que reveló el caso, el ejército estadounidense ya había puesto la operación en marcha: militares armados se preparaban para abordar la nave y había aviones en el aire. Todo se frenó poco antes del abordaje, cuando los oficiales revisaron el reporte a fondo y descubrieron que un analista lo había generado con inteligencia artificial y que el chatbot había identificado mal la carga. El reporte era falso. Ocurrió durante la primavera boreal, en plena guerra con Irán, y expone un riesgo inmediato: decisiones militares tomadas sobre información inventada por la IA.
Cómo un chatbot puso a un barco chino en la mira
El origen del error estuvo en un solo analista del Mando de Operaciones Especiales, que le pidió a un chatbot cruzar información de fuentes abiertas con inteligencia de señales clasificada sobre el manifiesto de carga del barco. La herramienta concluyó que la nave llevaba material vinculado a armas nucleares, algo que no era cierto. Después, el analista volvió a usar la IA para dar a ese resultado el formato de un informe de inteligencia estándar, del tipo en el que confía la cúpula militar para decidir. Así, un dato alucinado subió por la cadena de mando sin que nadie lo cuestionara a tiempo.
CNN no identificó qué chatbot se usó, y el ejército ha recurrido a varios. Tampoco quedó claro qué transportaba en realidad el barco. Una de las fuentes consultadas por la cadena advirtió que este tipo de alucinaciones no ha sido un caso aislado dentro de la comunidad de inteligencia desde que estas herramientas se extendieron por el gobierno.
El riesgo no es una IA rebelde, sino una que se cree sin revisar
El episodio apunta menos a la ciencia ficción de una máquina fuera de control y más a un problema cotidiano: personas que actúan sobre resultados inexactos de la IA. El Pentágono acelera el uso de estos sistemas para ganar velocidad en su cadena de decisiones, incluida la selección de objetivos, un terreno donde un error puede costar vidas.
"Es importante que los miembros del servicio entiendan la incertidumbre inherente a los modelos de lenguaje", dijo a TechCrunch Jake Steckler, investigador de GovAI y exoficial del Ejército de EE. UU. Steckler subrayó que ese cuidado es "especialmente crítico para cualquier decisión que pueda derivar en el uso de la fuerza, como la selección de objetivos, el análisis de inteligencia o la planificación operativa", porque ahí hay consecuencias de vida o muerte. Aun así, matizó que el caso debería servir para sumar salvaguardas, no para descartar la tecnología: apurar la adopción por encima de todo, dijo, terminará por hacer que los militares pierdan confianza en estas herramientas.
EE. UU. y China discuten reglas para que la IA no toque el arma nuclear
El caso llega mientras crece la presión por poner límites. En un documento publicado por la Brookings Institution, la investigadora Melanie Sisson y el académico Tianjiao Jiang, de la Universidad de Fudan, propusieron líneas rojas de cara a una reunión entre Trump y Xi Jinping prevista para el 24 de septiembre. El punto de partida es un acuerdo de finales de 2024, cuando los presidentes de EE. UU. y China coincidieron en que la decisión de usar armas nucleares debe quedar siempre en manos humanas y no de la IA.
Las propuestas van más allá: que ningún sistema de IA pueda lanzar por su cuenta un ataque nuclear ni golpear los sistemas de mando y control nuclear (NC3), que los humanos conserven el control exclusivo sobre los ciberataques con efectos estratégicos y que ambos países acuerden una definición compartida de "control humano". Jiang suma una lista de sectores críticos por proteger, como finanzas, salud y energía, y una línea directa para incidentes de IA, pensada para evitar que la respuesta automática de un sistema se lea como un ataque. El propio texto reconoce los obstáculos: la velocidad de los ciberataques, que puede superar el tiempo de reacción humano, y la dificultad de atribuir quién está detrás.
Por ahora, esas ideas son recomendaciones de expertos, no compromisos firmes entre gobiernos. El casi incidente del barco chino deja una foto incómoda: la IA militar avanza más rápido que las reglas para contenerla, y la reunión de septiembre entre Trump y Xi será la próxima prueba de hasta dónde están dispuestos a llegar.
