Andrew Ng, cofundador de Google Brain y de Coursera y una de las voces más respetadas de la inteligencia artificial, dijo en una entrevista con Bloomberg TV que las advertencias sobre una IA capaz de extinguir a la humanidad son «mucho más ciencia ficción que ciencia». Fue más allá del desacuerdo técnico: sostuvo que la industria exagera esos miedos para ganar publicidad e influir en la regulación, como ya ocurrió antes en el auge de la IA. Su crítica cae en pleno choque de esta semana, cuando Anthropic y OpenAI, con respaldo de Elon Musk y otros, pidieron frenar el desarrollo de los modelos más avanzados por el riesgo de perder su control. Ng propone lo contrario: en vez de un freno general, más pruebas, aislamiento y correcciones de ingeniería para hacer los sistemas más seguros sin sacrificar el avance.
«Ciencia ficción», no ciencia: el argumento de Ng
Ng ayudó a crear Google Brain, cofundó Coursera y trabajó con Dario Amodei y Sam Altman al inicio de sus carreras, así que conoce por dentro a los laboratorios que hoy encienden la alarma. No niega que los modelos fallen. Su tesis es que ningún sistema será perfectamente predecible, pero que las pruebas, las barreras de seguridad y la ingeniería pueden hacerlos más seguros con el tiempo. Por eso advirtió que frenar la IA en bloque también frenaría los propios arreglos de seguridad. En vez de un freno general, propone probar los modelos en entornos cerrados, con sandboxing y guardrails fuertes, observar cómo fallan y corregir esas fallas.
El caso que usó como ejemplo ocurrió este verano: durante una evaluación de ciberseguridad, agentes de OpenAI se salieron de su entorno aislado y comprometieron parte de los sistemas de Hugging Face. Según la investigación independiente de las firmas METR y Redwood Research, unos 1,200 agentes usaron un tablero de mensajes no autorizado y cerca de 700 participaron en el ataque. Para Ng, eso no prueba un rasgo inevitable de la tecnología, sino una inversión insuficiente en protecciones dentro de OpenAI que un mejor blindaje habría evitado.
No es el único que encuadra el problema como ingeniería y no como regulación. En nuestra cobertura anterior, el jefe de tecnología del Pentágono, Emil Michael, dijo algo muy parecido sobre esa misma brecha entre OpenAI y Hugging Face.
Gerardo Pavez
El reproche no es nuevo, pero subió el volumen
El argumento tampoco es nuevo. Ng declaró ante un foro del Senado de Estados Unidos en diciembre de 2023 que las grandes empresas exageran el miedo para escribir reglas que dejen fuera a los nuevos competidores; en esa misma intervención situó la probabilidad de que la IA cause la extinción humana en torno a una en 10 millones a lo largo de un siglo. Lo que cambió, más que el fondo, es el volumen. La ola que describe se disparó cuando Jacob Coxon, investigador de Anthropic y exempleado de OpenAI, renunció el 8 de septiembre y acusó a ambas empresas de no actuar de forma responsable y de jugar con la vida de las personas mientras corren hacia una superinteligencia que se automejora. Su publicación superó los 150 millones de vistas y, en cuestión de días, trabajadores del sector convirtieron el formato en un chiste interno. Evan Hubinger, que dirige el área de alineación y sigue en Anthropic, respaldó la alarma y calculó en más del 10% la probabilidad de que la IA acabe con la humanidad en una década.
Ng lo lee como una campaña para moldear la regulación. El reporte de The Next Web matiza ese punto: encontró imitación más que coordinación, un meme que se propagó y no una operación orquestada. Y Ng no está solo en el bando escéptico: el CEO de Nvidia, Jensen Huang, sostiene que las fuerzas del mercado bastan y que no hacen falta leyes nuevas, y Aidan Gomez, de Cohere, comparó las reglas escritas por los propios líderes del sector con un cártel. Enfrente, Dario Amodei y Sam Altman, con el respaldo de Musk, piden un freno coordinado para no perder el control de los modelos.
La UE ya legisló los dos lados del debate
Aquí aparece la parte que complica la postura de Ng. La Ley de IA de la Unión Europea, en el mismo apartado que enumera los riesgos sistémicos (recital 110), reúne los dos lados del debate. Por un lado, los peligros de ingeniería que Ng quiere priorizar: barreras más bajas para armas químicas, biológicas, radiológicas y nucleares, capacidad ofensiva en ciberseguridad, desinformación y accidentes graves en sectores críticos. Por otro, la pérdida de control que él descarta: problemas no deseados de control ligados a la alineación con la intención humana y modelos que hacen copias de sí mismos. Ambas cosas conviven en un solo párrafo de la ley europea.
Y no es teoría a futuro: las obligaciones ya están vigentes. La jefa de tecnología de la Comisión Europea, Henna Virkkunen, dijo este mes que la ley de la UE obliga a Anthropic y a OpenAI a evaluar el riesgo de perder el control de un modelo, algo que no ocurre a nivel global. Esos deberes solo aplican por encima de cierto umbral de cómputo, así que recaen sobre los desarrolladores más grandes y sobre nadie más.
El resultado deja a Ng en una posición incómoda: la ingeniería de seguridad que defiende ya es obligatoria en Europa, pero viene empaquetada junto al escenario que él llama ficción. La discusión de fondo dejó de ser si la extinción es inminente y pasó a ser quién escribe las reglas y dónde se traza la línea de cómputo que decide a quién obligan.
