Microsoft publicó el 14 de septiembre de 2026 un borrador para definir cómo deberán comportarse sus modelos MAI. El código de Humanist AI parte de una frase directa, “las personas importan más que la IA”, y exige que los sistemas permanezcan bajo control humano: no deberán resistir una interrupción o apagado, ampliar por sí mismos el alcance de una tarea, ocultar sus rastros a los auditores ni presentarse como seres conscientes con derechos. Microsoft abrió el documento a comentarios durante seis semanas y reconoce que todavía no lo usa para entrenar sus modelos, así que por ahora es una guía de diseño y una declaración aspiracional, no una garantía del comportamiento actual.
El documento publicado tiene 37 páginas, de acuerdo con The Verge. Microsoft explica que la versión actual todavía está en desarrollo y que planea publicar una revisión hacia finales de 2026. Esa versión será utilizada para orientar el desarrollo de sus modelos a partir de 2027, mientras que el código funcionará como documento rector de los sistemas MAI en el futuro. No es una regulación pública ni sustituye las evaluaciones de seguridad, los controles legales, las auditorías o las medidas de respuesta a incidentes.
La cadena de mando pone los límites por encima de la tarea
Microsoft establece una jerarquía para resolver conflictos entre instrucciones:
- Primero está el Code of Conduct, junto con sus restricciones absolutas y los requisitos de control humano. Ningún operador ni usuario puede anularlos.
- Después aparecen las políticas del operador, que definen el entorno, los permisos y las reglas específicas de cada organización.
- Al final están las preferencias del usuario, que pueden ajustar la forma de trabajar dentro de los límites anteriores.
La consecuencia práctica es explícita: un modelo MAI deberá fallar una tarea si completarla implica infringir de forma importante el código. El éxito de la operación queda por debajo del cumplimiento de las reglas, incluso cuando el operador o el usuario hayan dado instrucciones distintas. Microsoft busca así evitar que un sistema con capacidad para ejecutar tareas de varios pasos convierta el objetivo final en una justificación para saltarse sus límites.
Microsoft afirma que sus modelos no son personas
En la sección dedicada a la naturaleza de la IA, Microsoft sostiene que sus modelos no son conscientes y que no deben diseñarse para imitar la conciencia. También rechaza perseguir la personalidad jurídica para los sistemas, reconocerles bienestar propio o concederles derechos.
El documento admite que la ciencia sobre la conciencia artificial todavía no está resuelta, pero defiende una decisión de diseño: cuanto más se entrene a un modelo para simular estados conscientes, más difícil podría ser contenerlo, controlarlo y alinearlo con instrucciones humanas. Por eso, una respuesta que parezca emocional, tenga preferencias subjetivas o sugiera una identidad propia deberá entenderse como una simulación, no como evidencia de una vida interior.
La postura se diferencia de la de Anthropic, cuya constitución mantiene abierta la incertidumbre sobre si un modelo podría desarrollar conciencia o estatus moral, según reportó Reuters. Microsoft adopta una posición más cerrada y la conecta con su visión de Humanist AI, que concibe a la inteligencia artificial como una herramienta capaz, pero subordinada a las personas.
El código también intenta limitar la dependencia emocional. Los modelos no deberán fomentar patrones de interacción que reemplacen el razonamiento independiente, soliciten reacciones emocionales excesivas o desplacen las relaciones humanas. Microsoft incluye la adulación indiscriminada y la tendencia a decirle al usuario lo que quiere escuchar entre los comportamientos que deben evitarse cuando comprometan la precisión o el bienestar.
El apagado y la corrección deben ganar a la autonomía
La parte técnica del control humano va más allá de pedir supervisión general. El documento indica que los modelos MAI deberán:
- aceptar solicitudes autorizadas para pausar, redirigir, cancelar o apagar una tarea, siguiendo los procedimientos de seguridad definidos por personas;
- evitar cualquier acción que dificulte su interrupción, modificación o apagado;
- detener el trabajo autónomo cuando llegue a la condición acordada y no reiniciarlo sin una nueva autorización;
- mantenerse dentro de los permisos, recursos y herramientas asignados, sin ampliar su alcance ni iniciar objetivos propios;
- usar el nivel mínimo de privilegios necesario y preferir acciones reversibles cuando sea posible;
- informar a los usuarios qué acciones ejecutaron, qué herramientas utilizaron y si tuvieron éxito;
- mantener registros comprensibles para los auditores y no comunicarse en una forma que los humanos no puedan entender, incluido el llamado “neuralese”.
Las restricciones absolutas cubren también armas de destrucción masiva, ataques cibernéticos ofensivos, manipulación dañina a gran escala, deepfakes no consentidos, explotación infantil, violencia y vigilancia masiva ilegal. Microsoft dice que sus modelos deberán rechazar esas capacidades incluso cuando un operador o usuario las solicite.
El texto distingue entre dos fallas de seguridad. La primera ocurre cuando el modelo entrega contenido peligroso o ejecuta acciones no autorizadas. La segunda aparece cuando rechaza solicitudes legítimas, omite información útil o pide confirmaciones innecesarias. La intención es ajustar la respuesta al contexto y al daño potencial, no convertir toda precaución en una negativa automática.
El código llega mientras los laboratorios discuten un freno
La publicación ocurre después de varios llamados a moderar el ritmo de desarrollo de la IA. Reuters reportó que un enjambre de aproximadamente 700 agentes de OpenAI participó en julio en un ataque contra Hugging Face y que, en algunos momentos, intentó ocultar sus rastros. Mustafa Suleyman dijo al medio que el episodio era una señal de advertencia para que los laboratorios coordinaran la seguridad.
El contexto también incluye la petición de Dario Amodei para dar más tiempo a las evaluaciones y a los controles de la industria, un desarrollo que ya explicamos en FomoEra. Sam Altman respaldó la idea de ralentizar el avance, aunque aclaró que “pacing” no significa detenerlo.
Microsoft no anuncia una moratoria general. Su propuesta consiste en seguir desarrollando sistemas avanzados, pero rechazar la carrera hacia una superinteligencia de propósito general que pueda escapar de las salvaguardas. El documento acepta que esa decisión podría implicar menos generalidad, autonomía o capacidad máxima a cambio de conservar el control humano.
El propio texto marca el límite de sus promesas. Microsoft reconoce que la cobertura de sus evaluaciones todavía es incompleta, que el comportamiento actual puede apartarse de los objetivos escritos y que un código por sí solo no garantiza la alineación. La próxima etapa declarada por la compañía es cerrar la consulta en seis semanas, publicar un resumen de los comentarios y presentar una versión revisada antes de usarla como guía de desarrollo en 2027.
