Brad Smith, presidente de Microsoft, pidió leyes de seguridad para la IA con frenos de emergencia, reportes de incidentes y supervisión pública.
Lo planteó ante Will Bain en el podcast Big Boss Interview de la BBC. La autorregulación "ya no es suficiente", sostuvo el ejecutivo.
Cómo se frenaría un agente de IA
Smith pidió frenos para la IA que controle dispositivos autónomos o infraestructura crítica, tanto en las empresas que ejecutan los modelos como en la nube. También propuso notificar intrusiones a las víctimas y evaluar cuándo exigir aprobación gubernamental antes de lanzar un modelo.
Satya Nadella, CEO de Microsoft, expuso el lado técnico de esa preocupación el 10 de octubre de 2026. Según un despacho de Bloomberg reproducido por NDTV, propuso tratar los modelos avanzados como posibles amenazas internas y diseñar su contención desde el inicio. Una persona autorizada tendría que poder pausarlos o detenerlos durante una tarea.
Lo presentó como un criterio de diseño para mantener los sistemas bajo control humano. Nadella también pidió registros de las acciones de los agentes resistentes a la manipulación, auditorías independientes y divulgación de fallos graves para que otras empresas puedan reforzar sus defensas.
El pacto ya contempla auditores externos
El acuerdo de la Casa Blanca del 29 de septiembre de 2026, cuyo texto conserva The American Presidency Project de la Universidad de California en Santa Bárbara, establece cuatro niveles de supervisión. Las empresas se comprometen a implantar controles internos, encargar su vigilancia a un equipo propio, trabajar con un auditor o evaluador externo independiente y crear un comité independiente del consejo de administración que supervise el proceso.
Entre los firmantes aparecen los responsables de Google, Anthropic, Meta, OpenAI, xAI y Nvidia. El documento contempla que esos pasos puedan convertirse en leyes o reglamentos con el tiempo. Su fórmula actual es un compromiso de las compañías, con reuniones periódicas para acordar estándares y mejores prácticas.
La diferencia está en el alcance de la revisión. El auditor externo del pacto comprueba si los controles de una empresa funcionan como estaba previsto. La aprobación gubernamental que plantea Smith daría a una autoridad pública el visto bueno previo al lanzamiento de modelos.
Tom Wheeler, investigador visitante de Brookings, cuestionó ese reparto de responsabilidades en un análisis publicado el 6 de octubre de 2026. Señaló que el pacto permite a las compañías diseñar sus controles y elegir a sus evaluadores. También observó que el acuerdo omite una obligación de hacer públicos los resultados de las auditorías o entregarlos a una autoridad responsable del interés público.
Para Wheeler, una supervisión efectiva requiere divulgación ante una autoridad pública y capacidad de exigir medidas correctivas. Su crítica permite distinguir una auditoría organizada por el desarrollador de un mecanismo de rendición de cuentas con intervención estatal, aunque ambas puedan examinar la seguridad de un sistema.
Washington también elevó sus exigencias. Bloomberg informó que la Super Intelligence Force, el grupo de IA de la administración Trump, advirtió el 9 de octubre de 2026 que los desarrolladores deben comunicar inmediatamente los incidentes y corregir los daños. La agencia describió posibles consecuencias por incumplimiento, sin precisar cuáles.
