Investigadores del MIT informan que GPT-6 Astra, de OpenAI, puede analizar y modificar los pesos numéricos dentro de otros modelos de IA, un proceso que denominan «programación en el espacio de pesos». En lugar de reentrenar un modelo mediante la optimización convencional, Astra trabaja directamente con sus pesos, a veces utilizando herramientas de programación y comentarios obtenidos en ejecuciones de prueba.
En los experimentos, Astra dedujo qué habían aprendido varias redes entrenadas examinando sus pesos. Identificó a cuál de cuatro juegos estaba destinada una red, reconoció las formas básicas producidas por un generador de imágenes y determinó el idioma de entrenamiento de modelos de lenguaje pequeños. No pudo distinguir únicamente a partir de los pesos dos modelos de lenguaje ajustados para estar de acuerdo con los usuarios, pero sí lo consiguió cuando también pudo observar a qué partes del texto prestaban atención los modelos.
Los investigadores también pidieron a Astra que creara los pesos de modelos que jugaran a juegos sencillos, usando las reglas y el código fuente de los juegos en lugar de datos de entrenamiento. En Breakout, su modelo obtuvo una media de 517 puntos, frente a los 25 de un modelo entrenado de forma convencional. Los modelos de Astra no superaron a las versiones entrenadas durante más tiempo en otros dos juegos. En Go de 9 × 9, una red que Astra ajustó tras 50 rondas de pruebas venció a un modelo de tamaño similar entrenado con unos 20 millones de partidas.
Los resultados más destacados se obtuvieron al intentar mejorar el rendimiento matemático de Qwen3.5-0.8B. Mediante un entorno de programación y 50 rondas de pruebas, Astra cambió el 0,016 % de los pesos del modelo. Su precisión en la prueba de referencia MATH-500 aumentó del 7,9 % al 48,1 %, mientras que su puntuación en seguimiento de instrucciones subió del 21 % al 62 %.
La edición también redujo, aunque no eliminó, un comportamiento por el que Qwen genera texto repetidamente sin llegar a una respuesta: aproximadamente un tercio de las respuestas seguía alcanzando la longitud máxima de texto, frente al 93 % anterior. Astra no produjo ninguna mejora medible al probarlo con el modelo más pequeño Gemma 3 270M, que rara vez mostraba el mismo comportamiento repetitivo. Los investigadores plantean que la edición de Qwen podría haber eliminado un obstáculo que inhibía capacidades ya existentes, aunque señalan que reescribir los pesos no demostró una forma de añadir capacidades de las que un modelo carece fundamentalmente.
Los investigadores consideran que este método podría servir para auditar los pesos de los modelos en busca de problemas de seguridad y para realizar cambios específicos en el comportamiento sin el costoso reentrenamiento. Reconocen que el enfoque sigue siendo limitado y afirman que un próximo paso será desarrollar una prueba de referencia para medirlo de manera sistemática. Los registros de los experimentos están disponibles en GitHub y el modelo Qwen editado se encuentra en Hugging Face.
Fuentes: The Decoder.