> ## Content Index > Fetch the complete content index at: https://fomoera.com/llms.txt > Use this file to discover other available public pages before exploring further. # GPT-6 Astra modifica Qwen y reduce sus bucles en pruebas matemáticas - URL: https://fomoera.com/gpt-6-astra-qwen-edicion-pesos/ - Published: 2026-11-03T03:20:00.000Z - Updated: 2026-11-03T03:20:00.000Z - Description: Investigadores del MIT pidieron al modelo de OpenAI que editara los parámetros de una IA más pequeña. La mejora observada tuvo una explicación concreta y un límite. - Author: Gerardo Pavez - Tags: Tecnología y Ciencia, IA Un equipo de investigadores del MIT pidió a GPT-6 Astra que modificara los pesos de Qwen3.5-0.8B para mejorar su desempeño matemático. En la prueba MATH-500, la versión editada pasó de 7.9 % a 48.1 % de aciertos bajo la misma configuración de muestreo, según los autores. La mejora estuvo asociada a una falla concreta: el modelo original repetía su razonamiento y a menudo no llegaba a responder. El trabajo, publicado el 2 de noviembre por Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab, presenta resultados iniciales de una técnica que llaman "programación en el espacio de pesos". Los pesos son valores numéricos que determinan cómo procesa información una red neuronal. El equipo exploró si un modelo de lenguaje podía analizarlos y modificarlos a partir de una instrucción, en lugar de recurrir al entrenamiento convencional. Para la prueba con Qwen, Astra tuvo acceso a una sesión de Python y a preguntas de práctica de los conjuntos de entrenamiento de GSM8K y MATH. Los investigadores permitieron hasta 50 pasadas de ejecución sobre lotes de ejemplos para examinar resultados y orientar cambios, pero no permitieron usar gradientes ni ciclos de entrenamiento. Según la publicación, Astra identificó una dirección en dos capas de Qwen asociada con las repeticiones y la sustrajo de parte de sus pesos. La edición alteró 131,072 valores, alrededor del **0.016 %** de los 800 millones del modelo. ## Menos respuestas atrapadas en bucles En MATH-500, el 93.0 % de las respuestas de la versión original alcanzó el límite de 32,768 tokens. Con la edición obtenida mediante 50 pasadas, esa proporción bajó al 33.1 %, reportaron los autores. Un token es una unidad de texto que el modelo procesa o genera; llegar al límite puede impedir que termine una respuesta. El equipo de Qwen ya advertía en la ficha del modelo que la versión 0.8B era más propensa a entrar en bucles de razonamiento que otros modelos de la misma familia, incluso con los parámetros de muestreo recomendados. La ficha aconseja un límite de 81,920 tokens para evaluar problemas especialmente complejos, como los de competiciones matemáticas; el experimento del MIT usó un límite menor. En las pruebas del MIT, la puntuación de Qwen también subió de 13.8 % a 67.1 % en GSM8K y de 21.0 % a 62.3 % en IFEval, que evalúa el seguimiento de instrucciones. ## Una mejora que no se repitió en Gemma Los autores distinguen entre permitir que un modelo termine respuestas que podía resolver y enseñarle una capacidad matemática nueva. Para comprobar el alcance del método, también probaron Gemma 3 270M, un modelo que rara vez llegaba al límite de generación. Allí, las ediciones no produjeron una mejora establecida en MATH-500. Modificar pesos directamente tampoco es una idea nueva. En 2022, Kevin Meng y otros investigadores presentaron ROME, un método para actualizar asociaciones factuales mediante cambios en los pesos de un modelo. La propuesta del equipo del MIT se distingue por pedir a un modelo de propósito general que inspeccione y edite esos valores en función de una instrucción en lenguaje natural. En otros experimentos de la misma publicación, Astra identificó el juego para el que se había entrenado cada una de cuatro redes pequeñas a partir de sus pesos, según los autores. El equipo publicó los registros de las pruebas y trabaja en una evaluación estandarizada para medir este tipo de programación. *Fuentes:* [1](https://rikiyat.github.io/blog/weight-space-programming/?ref=fomoera.com), [2](https://huggingface.co/Qwen/Qwen3.5-0.8B?ref=fomoera.com), [3](https://arxiv.org/abs/2202.05262?ref=fomoera.com)