TL;DR:

• En la apertura del primer Diálogo Global sobre Gobernanza de la IA en Ginebra, Guterres calificó las armas letales autónomas de "moralmente repugnantes" y exigió prohibirlas por ley internacional.
• El plazo de 2026 que el propio secretario general fijó en 2023 para un tratado vinculante venció el 6 de julio: no hay tratado y las negociaciones formales ni siquiera empezaron.
• El Pentágono designó a Anthropic "riesgo para la cadena de suministro" tras negarse la empresa a permitir armas autónomas y vigilancia masiva con Claude, y ese pulso sigue en tribunales.

El secretario general de la ONU, António Guterres, pidió el 6 de julio prohibir por ley internacional las armas letales autónomas: las máquinas capaces de elegir y matar a un objetivo sin control humano. Lo hizo en Ginebra, ante delegados de los 193 Estados miembros, al inaugurar el primer Diálogo Global sobre Gobernanza de la IA. "Robots asesinos", las llamó sin eufemismos, y las describió como moralmente repugnantes. Su discurso coincidió con el día exacto en que venció el plazo que él mismo había fijado en 2023 para cerrar un tratado que las prohibiera. No hay tratado. Y llegó pocos días después de que unos documentos judiciales dejaran ver lo que le costó a Anthropic, la empresa detrás de Claude, intentar imponer por su cuenta el límite que la comunidad internacional no logra escribir.

Guterres reunió a los 193 Estados miembros para la primera cita de este tipo. Su preocupación central, dijo, son los sistemas de armas letales autónomas. Prefirió nombrarlos como se los conoce fuera de la jerga diplomática.

"Máquinas que seleccionan y atacan a su objetivo y quitan una vida, sin control ni juicio humano. Eso es moralmente repugnante. Es políticamente inaceptable. Y debe prohibirse por el derecho internacional."

El secretario general pidió no esperar a que ocurra una atrocidad para actuar y remató con una idea que repite desde 2018: algunas decisiones deben seguir siendo siempre humanas, ninguna más que la de quitar una vida. Junto con esa advertencia lanzó un Compromiso de Seguridad Infantil para la IA y reclamó estándares comunes de seguridad para los sistemas de frontera.

Lo que dio filo al discurso fue la fecha. En su Nueva Agenda para la Paz de 2023, Guterres había fijado 2026 como el año para cerrar un tratado internacional vinculante contra estas armas. Ese plazo venció justo el día de su intervención, con el expediente casi en el mismo punto que hace años.

El plazo de 2026 venció sin tratado ni negociaciones

La ONU lleva más de una década discutiendo el tema sin llegar a un texto obligatorio. El problema no es la falta de apoyo político, sino cómo está diseñado el foro donde se negocia. Este es el estado real del asunto:

• En diciembre de 2024, la Asamblea General aprobó la Resolución 79/62 con 166 votos a favor y solo 3 en contra: Bielorrusia, Corea del Norte y Rusia. Pero una resolución no es un tratado.
• Las conversaciones técnicas ocurren bajo la Convención sobre Ciertas Armas Convencionales, que funciona por consenso. En la práctica, cualquier país puede bloquear cualquier propuesta de forma indefinida.
• Rusia ha usado ese bloqueo de manera constante y Estados Unidos se ha opuesto a un instrumento vinculante. Por eso, hasta hoy, solo ha habido consultas, no negociaciones formales.
• El próximo Diálogo Global sobre gobernanza de la IA está agendado para mayo de 2027 en Nueva York.

"Hasta ahora las conversaciones han sido solo consultas y todavía no estamos negociando. Eso es un problema."

Lo resumió Nicole Van Rooijen, directora ejecutiva de la campaña Stop Killer Robots, en declaraciones recogidas por UN News. Y mientras los Estados debaten definiciones, la tecnología ya está en el campo de batalla: en 2020, un dron autónomo Kargu-2 atacó a combatientes en Libia, en lo que un panel de expertos de la ONU documentó como el primer ataque letal autónomo confirmado contra seres humanos.

El caso Anthropic le puso rostro concreto al debate

El debate abstracto de la ONU tiene un ejemplo muy concreto en Estados Unidos. Anthropic, creadora del modelo Claude, tenía un contrato de hasta 200 millones de dólares con el Pentágono. La empresa mantuvo dos líneas rojas: que Claude no sirviera para armar sistemas totalmente autónomos, capaces de matar sin una persona en el circuito de decisión, y que no se usara para vigilancia masiva de ciudadanos estadounidenses.

El choque estalló cuando la estrategia de IA que el Departamento de Defensa emitió en enero de 2026 exigió que todos los proveedores permitieran "cualquier uso lícito" de sus modelos. El CEO de Anthropic, Dario Amodei, se negó. Su argumento no fue solo ético: sostuvo que los sistemas de IA de frontera "simplemente no son lo bastante confiables" para operar armas totalmente autónomas. La razón es estructural. Un modelo de lenguaje genera respuestas probables a partir de enormes cantidades de datos, mientras que un sistema de puntería autónomo necesita seguir reglas de forma determinista. Son dos cosas distintas.

Del otro lado, la postura del Pentágono fue igual de firme. Los documentos judiciales que se hicieron públicos el 2 de julio, reportados primero por The Wall Street Journal y publicados por Gizmodo, dejaron ver el intercambio entre Amodei y Emil Michael, subsecretario de Defensa para Investigación e Ingeniería. En uno de los correos, Michael descartó la distinción que planteaba la empresa:

"En nuestro mundo no hay distinción entre armas defensivas y ofensivas."

El fondo del pleito, según esos documentos, nunca fue lo que Claude podía hacer, sino quién manda sobre cómo se usa.

La pelea legal sigue abierta y con acusaciones cruzadas

El 27 de febrero el Pentágono anunció que designaría a Anthropic como riesgo para la cadena de suministro, y el 3 de marzo formalizó la etiqueta. Esa herramienta, prevista en la ley estadounidense para casos de sabotaje extranjero, se aplicó por primera vez a una empresa nacional. El presidente Donald Trump ordenó además, en redes sociales, que todas las agencias federales dejaran de usar la tecnología de la compañía. Anthropic respondió con dos demandas y acusó al gobierno de tomar represalias por criticar su política, algo que la Constitución protege.

En un primer momento, la empresa ganó. A finales de marzo, la jueza Rita Lin, en San Francisco, bloqueó la medida con una orden preliminar y la describió como una "represalia ilegal clásica contra la Primera Enmienda". La jueza señaló como difícil de explicar que Michael escribiera a Amodei diciendo que estaban "muy cerca" de un acuerdo apenas un día después de que se decidiera tratar a la empresa como amenaza.

El desenlace cambió en la apelación. El 8 de abril, un tribunal de Washington revocó la suspensión y dejó la designación en vigor mientras se resuelve el fondo, con el argumento de que "el equilibrio de la balanza se inclina a favor del gobierno" tratándose de tecnología crítica durante un conflicto militar activo. El fiscal general en funciones, Todd Blanche, celebró una "victoria rotunda para la preparación militar" y sostuvo que la autoridad militar corresponde al comandante en jefe, no a una empresa. El gobierno ha defendido que ninguna compañía privada puede dictar cómo usa el ejército la tecnología, que todos sus usos serían lícitos y que las restricciones podrían poner en riesgo vidas estadounidenses. La directora de información del Pentágono, Kirsten Davies, llegó a plantear que hay cosas más importantes que los ingresos y la valuación previa a una salida a bolsa. El tribunal de apelaciones escuchó los argumentos de fondo el 19 de mayo y, a inicios de julio, todavía no había emitido su fallo.

El costo comercial ya se siente. Claude era el único modelo de IA de frontera autorizado en redes clasificadas, y desde el conflicto el Grok de xAI y ChatGPT de OpenAI recibieron ese permiso. Anthropic calcula que la confusión le tumbó acuerdos por unos 180 millones de dólares y advirtió en sus escritos judiciales que la disputa podría restarle varios miles de millones a sus ingresos de 2026. La empresa, valuada en torno a los 380,000 millones de dólares, prepara una posible salida a bolsa.

El funcionario que impulsó el veto tenía acciones en un rival

Hay un dato que complica el cuadro. Quien más presionó dentro del Pentágono para que Anthropic quitara sus límites fue Emil Michael, subsecretario de Defensa y director de tecnología del departamento. Según divulgaciones financieras reveladas por el medio The Lever y por ProPublica, Michael conservaba entre 2 y 10 millones de dólares en acciones de Perplexity AI, competidora directa de Anthropic. Fue miembro del consejo de esa empresa hasta inicios de 2025 y retuvo la participación. También tuvo acciones de xAI, otra rival, que vendió a principios de 2026.

El Departamento de Defensa rechazó cualquier irregularidad: aseguró que Michael cumple "plenamente con todas las leyes y normas de ética" y que "cualquier afirmación en contrario es falsa". El funcionario se había comprometido a no participar en asuntos con efecto "directo y previsible" sobre sus intereses financieros. Mientras tanto, OpenAI se quedó con el contrato del Pentágono que Anthropic perdió. Su CEO, Sam Altman, dijo que el Departamento de Defensa compartía sus principios de mantener supervisión humana sobre las armas y de rechazar la vigilancia masiva, aunque después admitió que el momento del acuerdo "se vio oportunista y descuidado". Google también firmó un pacto con el Pentágono pese a una carta abierta de cientos de sus empleados.

El caso deja al descubierto un vacío que el discurso de Guterres describe pero no resuelve. Mientras los Estados no acuerdan un tratado, las políticas internas de cada empresa se volvieron el único freno real al uso militar de la IA. Lo que prueba el expediente de Anthropic es que ese freno también es frágil frente al propio gobierno que quiere retirarlo. La pregunta no es solo estadounidense: Europa discute las mismas líneas en su Reglamento de IA y en el debate sobre soberanía tecnológica, atenta a cuánto control conserva un laboratorio de EE. UU. una vez que sus modelos entran en tareas de seguridad nacional. Como insistió el secretario general en Ginebra, algunas decisiones deben seguir siendo siempre humanas.

Preguntas rápidas sobre el veto a los robots asesinos

Fuentes: 1, 2, 3