TL;DR:

• Demis Hassabis, CEO de Google DeepMind y Nobel de Química 2024, publicó un manifiesto que pide a Estados Unidos crear un organismo de estándares para la IA de frontera, con un modelo parecido al de FINRA en Wall Street.
• Los laboratorios entregarían sus modelos de forma voluntaria hasta 30 días antes de lanzarlos para pruebas de riesgos cibernéticos, biológicos y de "engaño"; con el tiempo, aprobar esas pruebas sería obligatorio para operar en EE. UU.
• Hassabis quiere el organismo funcionando antes de que termine 2026 y propone que pueda coordinar una desaceleración del desarrollo si los riesgos crecen; los modelos de startups y de investigación quedarían exentos.

Demis Hassabis, cofundador y director ejecutivo de Google DeepMind, pidió este martes 14 de julio que Estados Unidos cree un organismo para revisar los modelos de inteligencia artificial más avanzados del mundo antes de que lleguen al mercado. Lo planteó en un manifiesto personal, "A Framework for Frontier AI and the Dawning of a New Age", donde propone un cuerpo de estándares financiado sobre todo por la propia industria y supervisado por el gobierno federal, inspirado en FINRA, el organismo privado que vigila a Wall Street bajo la autoridad de la SEC. El giro es llamativo: uno de los científicos que está construyendo esta tecnología pide ahora, en público, que se le pongan reglas. Y lo quiere funcionando antes de que termine 2026.

El tono del documento es de urgencia. Hassabis sostiene que la inteligencia artificial general (AGI), un sistema con todas las capacidades cognitivas del cerebro humano, está "probablemente a solo unos pocos años" y que ya estamos "en las estribaciones de la singularidad". Su idea de fondo: hay una ventana corta para poner orden antes de que lleguen modelos mucho más capaces, y conviene no desperdiciarla.

Cómo funcionaría: de la prueba voluntaria a la obligación de aprobar

La propuesta parte de un cuerpo técnico, no de una agencia nueva llena de burócratas. Hassabis lo describe como una asociación público-privada, o una organización de autorregulación supervisada por el gobierno, con un consejo donde se sienten expertos técnicos independientes y representantes del código abierto. La financiación, dice, tendría que ser cuantiosa y salir en su mayoría de la industria, para pagar el talento y la enorme capacidad de cómputo que exigen las pruebas a gran escala.

El corazón del plan es un cambio de estatus. Al principio, los laboratorios entregarían sus modelos de forma voluntaria, hasta 30 días antes de lanzarlos, para que el organismo los examine. Cuando ese protocolo demuestre ser sólido, la cosa se endurece: pasar el examen se volvería obligatorio para desplegar un modelo en el mercado estadounidense. Un sistema se consideraría "Frontier-class" si supera ciertos umbrales en una batería de pruebas que el propio organismo definiría y actualizaría cada cierto tiempo, quizá cada trimestre al inicio.

¿Qué mirarían esas pruebas? Hassabis enumera varios frentes:

• Capacidades de ciberseguridad: qué tanto puede un modelo encontrar y explotar fallos en sistemas críticos.
• Riesgos biológicos y otros dominios de alto riesgo, evaluados con métodos científicos rigurosos.
• Señales de "engaño" y comportamiento agente que intente saltarse las barreras de seguridad.
• Buenas prácticas como marcar digitalmente las imágenes generadas por IA y producir tokens de salida legibles para entender cómo razona el modelo.

Los laboratorios que crucen ese umbral quedarían etiquetados como "Frontier Labs" y tendrían que adoptar hábitos como publicar fichas técnicas de sus modelos, blindar su ciberseguridad interna y destinar recursos a la investigación en seguridad.

La pregunta de fondo: un vigilante que paga la propia industria

Aquí está el punto incómodo. Un organismo financiado sobre todo por los laboratorios que debe vigilar a esos mismos laboratorios levanta, de entrada, la sospecha de la captura regulatoria: que las grandes empresas usen las reglas para frenar a los competidores pequeños. Hassabis intenta cerrar esa puerta por adelantado. Los modelos que no lleguen al umbral de frontera, como los de startups o los de investigación académica, quedarían exentos de todo el proceso.

El modelo FINRA que propone es, además, más ligero que otras ideas sobre la mesa. Y no llega en el vacío: hay quien lleva años pidiendo justo esto. Gary Marcus, uno de los críticos más constantes del entusiasmo desmedido con la IA, celebró la propuesta y recordó que él defiende desde 2023 un sistema de pruebas previas al lanzamiento, obligatorias, transparentes e independientes.

"El mundo será un lugar mejor si se implementa, con transparencia e independencia. Espero que su valiente ensayo sea un punto de quiebre", escribió Gary Marcus.

Marcus puso una condición que conviene subrayar: le gusta la mención a los expertos técnicos independientes precisamente porque, dice, estas decisiones no pueden quedar solo en manos del gobierno y de las grandes tecnológicas, sobre todo cuando se habla de que el Estado podría llegar a tomar participación en empresas de IA.

Por qué justo ahora: el susto de Mythos y la fila de laboratorios que ya pide reglas

El momento no es casual. Hace pocas semanas, Washington improvisó. El gobierno de Donald Trump ordenó a Anthropic bloquear el acceso a sus modelos más potentes, Mythos y Fable, mediante una orden de control de exportaciones. Anthropic apagó el acceso de un día para otro y pasó dos semanas y media negociando su regreso sin un reglamento, un protocolo ni un manual que seguir. Poco después, OpenAI aceptó restringir su modelo GPT-5.6 a socios avalados por el gobierno antes de liberarlo al público. Para Hassabis, ese episodio fue una señal de alarma: la prueba de que el país necesita algo más firme que las órdenes sobre la marcha.

Y no está solo pidiendo reglas. Sam Altman, de OpenAI, reclamó un organismo parecido en un artículo publicado este mes en el Financial Times. Dario Amodei, de Anthropic, va más lejos y propone una agencia con dientes, al estilo de la FAA (la autoridad de aviación de EE. UU.), con poder para bloquear modelos inseguros. Los jefes detrás de Gemini, de ChatGPT y de Claude coinciden hoy en que Washington debería regularlos; discrepan sobre quién debe tener el mando y con cuánta dureza.

Hay un antecedente concreto que juega a favor de Hassabis. En junio, la Casa Blanca ya emitió una orden ejecutiva que buscaba acceso voluntario a los modelos de frontera hasta 30 días antes de su lanzamiento para probar sus capacidades cibernéticas, y Google DeepMind, Microsoft y xAI aceptaron entregar modelos para pruebas de seguridad nacional. Es decir: la pieza de los "30 días" ya existe en versión piloto.

Hassabis insiste en que su postura no es ni tecno-optimismo ciego ni catastrofismo. La resume así:

"Nadie en el mundo sabe con certeza qué va a pasar de aquí en adelante, y ni siquiera los expertos se ponen de acuerdo. Cuando hay tanta incertidumbre y lo que está en juego es tan grande, avanzar con optimismo cauteloso es la estrategia sensata y correcta", escribió Hassabis.

Preguntas rápidas sobre la propuesta de Hassabis

Aunque el plan nace en Estados Unidos, su alcance no se queda ahí. Hassabis quiere que las reglas apliquen a cualquier modelo de frontera sin importar su país de origen ni si es abierto o cerrado, y plantea la iniciativa como el primer paso hacia un estándar internacional. Traducido: lo que Washington decida sobre cómo se prueban los modelos más potentes terminará marcando qué herramientas de IA llegan, y en qué condiciones, a mercados que no tendrían asiento en esa primera mesa, incluidos España y América Latina. Por ahora es un ensayo, con la firma de uno de los científicos que mejor conoce el terreno y una frase suya que ya circula: que hemos encontrado la forma de "hacer pensar a la arena". El resto, quién vigila y con cuánta fuerza, sigue en disputa.

Fuentes: 1, 2, 3