MIT-Forschende sagen, GPT-6 Astra könne KI-Modelle durch Änderungen ihrer Gewichte bearbeiten

MIT-Forschende berichten, OpenAIs GPT-6 Astra könne die numerischen Gewichte anderer KI-Modelle analysieren und verändern – ein Verfahren, das sie „Weight-Space Programming“ nennen. Anstatt ein Modell mit herkömmlicher Optimierung erneut zu trainieren, arbeitet Astra direkt mit seinen Gewichten und verwendet dabei mitunter Programmierwerkzeuge sowie Rückmeldungen aus Testläufen.

In Experimenten erschloss Astra durch die Untersuchung ihrer Gewichte, was mehrere trainierte Netzwerke gelernt hatten. Es erkannte, welches von vier Spielen ein Netzwerk spielen sollte, identifizierte die Grundformen, die ein Bildgenerator erzeugte, und bestimmte die Trainingssprache kleiner Sprachmodelle. Zwei Sprachmodelle, die so feinabgestimmt worden waren, dass sie den Nutzenden zustimmen, konnte Astra allein anhand der Gewichte nicht unterscheiden. Das gelang ihm jedoch, wenn es zusätzlich beobachten konnte, welchen Textstellen die Modelle Aufmerksamkeit schenkten.

Die Forschenden baten Astra außerdem, anhand von Spielregeln und Quellcode statt Trainingsdaten Gewichte für Modelle zu erstellen, die einfache Spiele spielten. In Breakout erzielte sein Modell durchschnittlich 517 Punkte, verglichen mit 25 Punkten bei einem herkömmlich trainierten Modell. In zwei weiteren Spielen übertrafen Astras Modelle nicht die am längsten trainierten Versionen. Bei 9x9-Go besiegte ein von Astra in 50 Testrunden angepasstes Netzwerk ein ähnlich großes Modell, das mit etwa 20 Millionen Partien trainiert worden war.

Die bemerkenswertesten Ergebnisse stammten aus dem Versuch, die Mathematikleistung von Qwen3.5-0.8B zu verbessern. Mithilfe einer Programmierumgebung und 50 Testrunden veränderte Astra 0,016 % der Modellgewichte. Die Genauigkeit beim MATH-500-Benchmark stieg von 7,9 % auf 48,1 %, während der Wert für die Befolgung von Anweisungen von 21 % auf 62 % zunahm.

Durch die Änderung wurde auch ein Verhalten verringert, aber nicht beseitigt, bei dem Qwen wiederholt Text erzeugt, ohne eine Antwort zu erreichen: Bei etwa einem Drittel der Antworten wurde weiterhin die maximale Textlänge erreicht, verglichen mit zuvor 93 %. Bei Tests mit dem kleineren Modell Gemma 3 270M erzielte Astra keine messbare Verbesserung. Dieses zeigte das gleiche Schleifenverhalten nur selten. Die Forschenden vermuten, dass die Änderung an Qwen ein Hindernis beseitigt haben könnte, das bereits vorhandene Fähigkeiten unterdrückte. Sie weisen jedoch darauf hin, dass das Umschreiben von Gewichten nicht gezeigt habe, wie sich Fähigkeiten hinzufügen lassen, die einem Modell grundsätzlich fehlen.

Die Forschenden sehen mögliche Anwendungen darin, Modellgewichte auf Sicherheitsprobleme zu prüfen und gezielte Verhaltensänderungen ohne kostspieliges erneutes Training vorzunehmen. Sie räumen ein, dass der Ansatz weiterhin begrenzt ist, und bezeichnen die Entwicklung eines Benchmarks zur systematischen Messung als nächsten Schritt. Die Experimentprotokolle sind auf GitHub verfügbar, das bearbeitete Qwen-Modell auf Hugging Face.

Quellen: The Decoder.