Brad Smith, presidente de Microsoft, pidió reforzar las reglas de seguridad de la inteligencia artificial. Durante una entrevista con la BBC, sostuvo que la leche y las lavadoras están sometidas a más controles que la IA.
Según la cobertura de ITPro de esa entrevista, Smith propone que organismos gubernamentales independientes evalúen las nuevas tecnologías. También reclama una obligación legal de elaborar informes de incidentes, informar a los afectados y disponer de mecanismos para frenar sistemas que se salgan de control.
El ejecutivo considera que Reino Unido puede liderar esos esfuerzos por la capacidad técnica de su AI Security Institute, dedicado a evaluar la seguridad de la IA.
Detener un modelo durante una tarea
Satya Nadella, CEO de Microsoft, publicó el 10 de octubre de 2026 una propuesta técnica para limitar la autoridad de los modelos. En su blog sn scratchpad, defendió que los controles sobre los datos y las acciones permitidas estén fuera de la propia IA.
"Una persona autorizada siempre debería poder pausar o apagar un modelo en plena tarea", escribió Nadella.
Su planteamiento consiste en tratar a los modelos avanzados como posibles riesgos internos. Un sistema con acceso a información sensible puede cometer errores o quedar comprometido, explicó. Por eso, las empresas deben conservar mecanismos de supervisión que funcionen de manera independiente del modelo.
También pidió registros legibles para humanos y resistentes a alteraciones de cada acción relevante. Esos registros permitirían reconstruir lo ocurrido sin depender de la explicación que dé la IA. La propuesta incluye auditorías independientes y comunicación oportuna a los afectados cuando fallen los sistemas.
Europa ya tiene obligaciones, con distintos plazos
La comparación de Smith requiere distinguir jurisdicciones. La Unión Europea tiene obligaciones específicas para los modelos de propósito general, capaces de realizar múltiples tareas. Según explica la Comisión Europea, su Ley de IA exige documentación técnica, una política de derechos de autor y un resumen público del contenido usado para entrenarlos.
Los proveedores de modelos con riesgo sistémico deben evaluar y mitigar riesgos, reportar incidentes graves y proteger el modelo y su infraestructura. Estas obligaciones también alcanzan a empresas establecidas fuera de la UE que comercialicen sus modelos en el mercado europeo.
Algunos modelos de código abierto tienen exenciones de documentación, siempre que cumplan las condiciones previstas. Esas exenciones no cubren a los modelos con riesgo sistémico.
El código europeo de buenas prácticas ofrece una vía voluntaria para acreditar el cumplimiento de esos deberes.
Las obligaciones sobre modelos de propósito general se aplican desde el 2 de agosto de 2025; los comercializados antes de esa fecha tienen hasta el 2 de agosto de 2027 para cumplirlas. Desde el 2 de agosto de 2026, la Comisión también puede hacer cumplir esas obligaciones mediante sanciones.
Para determinados usos de alto riesgo, como empleo y educación, los requisitos comenzarán el 2 de diciembre de 2027. Los sistemas de alto riesgo integrados en productos regulados tienen otro plazo: el 2 de agosto de 2028.
La propuesta de Nadella deja una responsabilidad concreta en las empresas usuarias: conservar el control de los permisos y poder detener al agente mientras trabaja.
