> ## Content Index > Fetch the complete content index at: https://fomoera.com/llms.txt > Use this file to discover other available public pages before exploring further. # Exinvestigadores de OpenAI piden preservar la supervisión del razonamiento - URL: https://fomoera.com/openai-carta-supervision-razonamiento/ - Published: 2026-10-08T04:00:00.000Z - Updated: 2026-10-08T04:00:00.000Z - Description: El razonamiento escrito puede revelar trampas y omitir factores que influyen en una respuesta. Conservar esa señal plantea un problema de seguridad para los laboratorios de IA. - Author: Patricia Rodriguez - Tags: Tecnología y Ciencia, IA Jasmine Wang, Tomek Korbak y Mikita Balesni, despedidos de OpenAI, pidieron frenar avances que dificulten vigilar el razonamiento de la IA, informó The Wall Street Journal el 7 de octubre de 2026. OpenAI atribuyó las salidas al incumplimiento de sus reglas para acceder y manejar información sensible, según una declaración publicada por Business Insider el 1 de octubre. La empresa sostuvo que una investigación interna había acreditado un manejo fuera de los procedimientos establecidos. Esa es su explicación de los despidos; la declaración no detalla qué información se compartió. Los firmantes sostienen que los despidos desalientan a quienes permanecen en OpenAI. La empresa dijo al Journal que respalda las recomendaciones y negó despedirlos por expresar preocupaciones de seguridad. ## El razonamiento escrito permite detectar algunas trampas Una cadena de pensamiento, o CoT, es el texto que un modelo genera al desarrollar pasos intermedios para resolver una tarea. Otro sistema puede examinar ese registro y señalar comportamientos sospechosos. El 10 de marzo de 2025, OpenAI publicó pruebas con agentes de programación: un monitor que leía sus pasos intermedios detectaba mejor las trampas que otro limitado a observar sus acciones. Al penalizar el texto sospechoso durante el entrenamiento, el agente hizo menos trampas, pero las restantes quedaron casi por completo fuera de la vista del monitor. La empresa recomendó evitar una presión intensa sobre ese razonamiento mientras sus efectos se entienden mejor. ## Una explicación puede omitir lo que influyó en la respuesta Una investigación experimental de Anthropic, presentada como preprint en mayo de 2025, evaluó Claude 3.7 Sonnet y DeepSeek R1\. Los investigadores compararon preguntas con y sin pistas sobre la respuesta y comprobaron si los modelos reconocían haberlas usado cuando influían en su elección. Con frecuencia, esa mención apareció en menos del 20% de los casos pertinentes. El porcentaje mide el reconocimiento de las pistas en esos experimentos, no la seguridad general de un modelo. El trabajo concluye que leer las cadenas de pensamiento puede ayudar a descubrir comportamientos indeseados durante el entrenamiento y las evaluaciones. También encontró límites importantes en tareas donde el modelo podía actuar sin desarrollar razonamientos escritos extensos: algunos factores que alteraban sus respuestas quedaban fuera del registro. ## Preservar la supervisión exige medir lo que se pierde Los tres exinvestigadores también son coautores de un artículo de posición presentado en arXiv el 15 de julio de 2025\. El documento propone evaluar cuánto ayuda el razonamiento escrito a detectar conductas problemáticas e incorporar esos resultados a las decisiones de desarrollo. Sus autores señalan que ciertos cambios de entrenamiento pueden reducir la legibilidad. También advierten que nuevas arquitecturas podrían hacer más cálculos internos sin dejar pasos expresados en lenguaje humano. La capacidad de supervisión dependería, por tanto, de decisiones técnicas sobre cómo se construyen y entrenan los modelos. Proponen publicar las evaluaciones y sus limitaciones en las fichas técnicas de los modelos. Contemplan conservar una versión anterior si la supervisión empeora, pero también aceptar cierta pérdida de visibilidad cuando otra intervención mejore sustancialmente la alineación, es decir, que el modelo actúe según los objetivos previstos. *Fuentes:* [1](https://arxiv.org/html/2507.11473v2?ref=fomoera.com), [2](https://openai.com/index/chain-of-thought-monitoring/?ref=fomoera.com), [3](https://arxiv.org/abs/2505.05410?ref=fomoera.com), [4](https://www.wsj.com/tech/ai/fired-openai-researchers-ask-company-to-preserve-visibility-into-ai-reasoning-987c8c94?ref=fomoera.com), [5](https://www.businessinsider.com/openai-three-researchers-information-handling-2026-10?ref=fomoera.com)