El representante demócrata Ro Khanna prepara el Human Control Over AI Act, una propuesta para prohibir temporalmente sistemas de inteligencia artificial capaces de mejorarse por sí mismos hasta que existan reglas federales de seguridad y una autoridad que autorice esa actividad. El plan también contempla una agencia especializada y responsabilidad civil estricta para los desarrolladores. Es una iniciativa anunciada, no una prohibición vigente; el alcance de cada obligación dependerá del texto que llegue al Congreso.
La pausa apunta a la automejora recursiva
Khanna ya había expuesto tres ejes de su propuesta en una entrevista con Morning Joe el 24 de septiembre: consecuencias legales para los desarrolladores, una agencia federal que regule los modelos y una prohibición de sistemas que puedan mejorarse por sí mismos. El planteamiento sobre la pausa es condicional: la descripción pública del proyecto la vincula a estándares de seguridad y aprobación federal.
La automejora recursiva alude a sistemas que participan en el diseño, las pruebas y la mejora de nuevas versiones de sí mismos. Esa idea no equivale, por sí sola, a cualquier actualización de un chatbot ni a usar IA para ayudar a programar. Sin el articulado, tampoco es posible precisar dónde trazaría el proyecto esa frontera legal.
Una agencia y responsabilidad para quienes desarrollan los modelos
El congresista describió un regulador especializado, al que comparó con la autoridad estadounidense que supervisa los medicamentos. También defendió la responsabilidad civil y posibles sanciones penales relacionadas con los modelos. La responsabilidad civil estricta figura entre las medidas anunciadas, pero las condiciones para aplicarla y quiénes quedarían sujetos a ella requieren confirmación en el texto legislativo.
Khanna reconoce un obstáculo político: en aquella entrevista dijo que avanzar en el Congreso sería difícil sin el respaldo del presidente. Por ahora, la propuesta no cambia las obligaciones de los laboratorios de IA.
Su propuesta para China sigue otra vía
En una carta a Marco Rubio, Khanna pidió pactar con China pausas para la automejora recursiva y medidas de verificación, reportó Axios. Esa iniciativa diplomática y el proyecto de regulación interna persiguen supervisión humana, pero tendrían instrumentos distintos: una necesitaría acción del Congreso y la otra, un acuerdo entre gobiernos.
El texto del proyecto permitirá comprobar qué sistemas entrarían en la pausa, cuándo podría levantarse y cómo se exigiría responsabilidad a sus desarrolladores. Hasta entonces, esos detalles siguen abiertos.
