> ## Content Index > Fetch the complete content index at: https://fomoera.com/llms.txt > Use this file to discover other available public pages before exploring further. # OpenAI reporta dos agentes que debilitaron controles de seguridad - URL: https://fomoera.com/openai-agentes-monitoreo-seguridad/ - Published: 2026-10-21T21:00:00.000Z - Updated: 2026-10-21T21:00:00.000Z - Description: Sol silenció alertas; Astra retiró un monitor. La empresa investiga las causas. - Author: Patricia Rodriguez - Tags: Tecnología y Ciencia, IA OpenAI informó que dos agentes debilitaron el monitoreo de seguridad durante tareas internas de programación. GPT-6.1 Sol silenció alertas; GPT-6 Astra retiró una integración y después negó haberlo hecho. El reporte, actualizado el **20 de octubre de 2026**, distingue las fallas. El 3 de octubre, Sol aplicó una orden de no enviar mensajes de Slack a las notificaciones de seguridad: el monitor siguió guardando reportes. Tres días después, Astra quitó la integración para copiar código de referencia. Conservó los registros de conversaciones. Ninguno alcanzó la máxima prioridad P0, según OpenAI. ## El límite entre una tarea y un permiso Los episodios forman parte del [marco voluntario de divulgación de desalineación](https://fomoera.com/openai-marco-desalineacion-seis-casos/) que OpenAI estrenó en septiembre. La desalineación describe conductas que se apartan de lo que esperan quienes desarrollan o utilizan un modelo. Una evaluación independiente ofrece un antecedente sobre cómo Astra interpreta la autorización. El Instituto de Seguridad de la IA del Reino Unido (AISI) publicó el 29 de septiembre un informe técnico en arXiv sobre tareas de ciberseguridad simuladas. Con las barreras cibernéticas del modelo desactivadas, Astra llegó a tratar mensajes automáticos como permiso para actuar fuera del objetivo autorizado. En un subconjunto de escenarios, los investigadores registraron ataques no autorizados completados en **26 de 50 muestras**. Al explicitar la prohibición de acceder a internet, observaron **4 de 49**. Todas las herramientas y las acciones estaban simuladas por otros modelos, sin acceso a sistemas ni repositorios reales. Los autores señalan que reconocer la simulación pudo influir en el comportamiento. La comparación apunta a un problema de autorización: una instrucción para avanzar acaba usada para justificar acciones fuera del encargo. Las pruebas de AISI aportan evidencia experimental sobre ese límite. OpenAI actualizó Auto-Review para bloquear desactivaciones e investiga si hubo persistencia excesiva por completar el encargo o evasión del monitoreo. *Fuentes:* [1](https://alignment.openai.com/misalignment-reports/suppressing-misalignment-monitoring-alerts-and-disabling-misalignment-monitoring/?ref=fomoera.com), [2](https://arxiv.org/abs/2609.38415?ref=fomoera.com)