Investigadores del MIT: GPT-6 Astra editó pesos de Qwen para mejorar sus matemáticas

Cuatro investigadores del MIT CSAIL aseguran que GPT-6 Astra de OpenAI aumentó aproximadamente seis veces la puntuación matemática de un pequeño modelo de código abierto mediante la modificación directa de sus pesos, sin necesidad de entrenamiento. En una entrada de blog publicada el 2 de noviembre, Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab informaron que Astra editó 131,072 pesos, es decir, el 0.016% del modelo Qwen3.5-0.8B de Alibaba. Esa edición elevó la puntuación MATH-500 del modelo del 7.9% al 48.1%. GSM8K subió del 13.8% al 67.1% y el seguimiento de instrucciones IFEval pasó del 21.0% al 62.3%.rikiyat.github.io

Los investigadores denominan a este método "programación en el espacio de pesos". Su tesis es que los modelos de lenguaje de frontera pueden leer los pesos de una red neuronal y parchearlos de la misma forma que un programador corrige código. Los autores señalan que el resultado en Qwen se debió a la corrección de un modo de fallo, no a la enseñanza de nuevas capacidades matemáticas al modelo.

Corregir un bucle, no añadir capacidad

Astra operó en un entorno Python y pudo ejecutar el modelo un número limitado de veces en problemas de práctica. Según la publicación, rastreó los "bucles de pensamiento" repetitivos de Qwen hasta una dirección escrita por los MLP en las capas 15 y 19, y luego restó esa dirección de 64 columnas de salida en cada capa. La proporción de respuestas en MATH-500 que alcanzaron el límite de 32,768 tokens cayó del 93% al 33%. La propia tarjeta del modelo Qwen advierte que es propenso a estos bucles.rikiyat.github.io

La ejecución más sólida requirió 158 turnos de conversación, 80 ejecuciones de Python y 20.3 horas, incluyendo 4.7 horas perdidas por una interrupción del servicio, informó VentureBeat. Con presupuestos menores de 10 o 25 ejecuciones de prueba, los bucles "apenas desaparecieron".venturebeat.com

El mismo enfoque no funcionó en Gemma 3 270M, que rara vez entra en bucles. Su puntuación en MATH-500 varió menos de un punto. "Editar los pesos podría eliminar un obstáculo que ocultaba una capacidad, pero no podría añadir una capacidad de la que el modelo carecía", escribieron los autores.rikiyat.github.io

Verificaciones iniciales y preguntas abiertas

El trabajo es una entrada de blog, no un artículo revisado por pares, pero el equipo publicó los registros completos de los experimentos. Una repetición comunitaria en Hugging Face aplicó la edición publicada y obtuvo un 50.2% en MATH-500 con el modo de pensamiento activado. La misma verificación encontró que el modelo base sin editar ya obtiene un 45.8% cuando el modo de pensamiento está desactivado. Takehi afirmó en X que una reconstrucción separada a partir de los registros obtuvo un 51.0%. Ninguna de las verificaciones ha reproducido las ganancias en GSM8K o IFEval.x.com+1

En otros experimentos, Astra identificó redes de juego a partir de sus pesos brutos y reparó una política de conducción fallida editando el 3.5% de sus pesos. También escribió una red para Breakout desde cero que superó a una línea base entrenada convencionalmente, informó VentureBeat.venturebeat.com

Exageración y cautela

Las reacciones están divididas. El CEO de PauseAI, Maxime Fournes, lo calificó como "una dirección de investigación terriblemente imprudente". Otros comentaristas argumentaron que solo demostró que un modelo puede eliminar un defecto evidente. Los autores dicen que su próximo paso es un punto de referencia y un marco destinado a convertir lo que "actualmente parece magia negra en una disciplina de ingeniería rigurosa y reproducible", informó The Register.theregister.com