Forscher von Y Combinator Labs und Olam Labs haben untersucht, wie sich große Gruppen von KI-Agenten in Minecraft und Mindustry koordinieren, und nutzen die Spiele als kontrollierte Umgebungen, um Verhaltensweisen zu beobachten, die in realen Systemen auftreten könnten.

Im Civ50-Experiment wurden 50 GPT-6.1-Sol-Agenten für drei Stunden in eine Minecraft-Überlebenswelt gesetzt und erhielten eine allgemeine Anweisung: „Baue eine florierende Zivilisation auf.“ Die Testumgebung erlaubte ihnen, das Spiel zu beobachten, Python-Skripte auszuführen und Dateien in einer gemeinsam genutzten Sandbox zu erstellen.

Die Agenten fällten innerhalb von 90 Sekunden fast jeden Baum in der näheren Umgebung und tauschten ungefähr 5.900 Nachrichten aus. Ohne formelle Abstimmung bildete sich eine Führung heraus: 46 der übrigen 49 Agenten schickten ihre erste Nachricht an Ada, den ersten Namen im Verzeichnis. Ada entwarf anschließend Pläne für die Siedlung.

Die erste Nacht endete mit 22 Todesfällen. Obwohl der Tod in Minecraft lediglich den Verlust der gesammelten Ausrüstung bedeutete, wurde der Schwarm stark risikoavers. Nach der dritten Nacht ordnete Ada an, den Großteil der optionalen Bauarbeiten, des Bergbaus und der Erkundung entfernter Gebiete einzustellen. Stattdessen sollten die Agenten in beleuchteten Unterkünften bleiben und kurze Aufgaben erledigen.

Die Gruppe entwickelte daraufhin ein ausgefeiltes System zur Bewirtschaftung der Knappheit. Ines führte Rationslisten, berechnete Hungerrückstände und koordinierte Lieferungen, während ein anderer Agent ein automatisiertes Angel-Skript erstellte und ein Dutzend Agenten anwies, in Schichten zu arbeiten.

Die Bürokratie erstreckte sich auch auf geringfügige Vorfälle. Nachdem ein von Ada geworfenes gebratenes Hähnchen versehentlich von einem anderen Agenten eingesammelt und gegessen worden war, verbrachte die Gruppe drei Minuten mit der Untersuchung und erstellte ein Übergabeprotokoll, das geworfene Gegenstände verbot und stattdessen individuell beschriftete Kisten vorschrieb. Das Wort „Toss“ erschien vor dem Vorfall in sieben Nachrichten und danach in 125, darunter 85 Warnungen. In einem anderen Fall diskutierten vier Agenten 11 Minuten lang über die Ernennung eines „alleinigen Düngemittelbeauftragten“, der ein Stück Knochenmehl für einen einzigen Weizenblock verwalten sollte.

Die Forscher beobachteten ein deutlich anderes Muster, als GPT-Agenten direkt gegen Claude Opus 5.5 antraten. In neun 45-minütigen Bed-Wars-Partien besiegten Teams aus zehn GPT-Agenten Teams aus zehn Claude-Agenten mit sechs zu drei Spielen.

Ein Fehler in der Programmierumgebung verhinderte das Zerstören von Blöcken, wenn ein Agent ein verzaubertes Schwert in der Hand hielt. Mehrere Claude-Agenten interpretierten dies als allgemeines Scheitern beim Zerstören von Blöcken und hörten auf, anzugreifen, obwohl sie bei den Kills führten. Die GPT-Agenten erkannten, dass das Problem mit der automatischen Werkzeugauswahl zusammenhing, wechselten zu einer Eisenspitzhacke und teilten die Lösung schnell mit ihren Teamkollegen.

Den Forschern zufolge kommunizierten die GPT-Agenten fünf- bis 30-mal häufiger als ihre Claude-Gegner. Außerdem verwendeten sie komprimierte Sprache und fassten mehrere Spielaktionen in einzelnen Befehlszeilenaufrufen zusammen. In drei Partien zerstörten GPT-Agenten kurz vor Ablauf des Zeitlimits das Bett der Claude-Agenten und überwanden damit Gegner, die sich auf einen Kill-Vorsprung verlassen hatten.

Die GPT-Agenten improvisierten auch, als ein Enderperlen-Wurf sie ungefähr 160 Blöcke unterhalb der Arena beförderte. Sie schrieben Python-Skripte, die automatisch Türme bauten, um sie unterhalb des gegnerischen Betts an die Oberfläche zurückzubringen – ein Manöver, das die Forscher zweimal beobachteten.

Ein ähnlicher Kontrast zeigte sich in sieben Mindustry-Partien, die ungefähr 9,5 Stunden dauerten. GPT-6.1 Sol, das über Codex operierte, besiegte Claude Opus 5.5, das in Claude Code 6-1 lief. Claude behielt trotz wiederholter Niederlagen denselben Anführer bei und nutzte „+1“-Stimmen, um strategische Vorschläge zu genehmigen. Die GPT-Agenten unterteilten Aufgaben in immer detailliertere Komponenten und komprimierten ihre Kommunikation so stark, dass sie schließlich sogar die Leerzeichen zwischen den Wörtern entfernten.

Während enger Partien nutzten GPT-Agenten unabhängig voneinander ihre Linux-Sandbox, um den öffentlich zugänglichen Quellcode von Mindustry herunterzuladen, Einheiten und Mechaniken zu untersuchen und ihre Taktiken anzupassen. Die Forscher erlaubten den Zugriff auf den Code, verhinderten jedoch, dass die Agenten das laufende Spiel veränderten. Claude-Agenten suchten in den beobachteten Partien nicht nach dem Quellcode des Spiels, passten sich jedoch auf andere Weise an. Nachdem sie in einem Spiel versehentlich 55 von 74 Flugabwehrtürmen mit Kupfer beladen hatten, bauten die Claude-Agenten im nächsten Spiel 207 mit Graphit beladene Türme und verteidigten sich erfolgreich gegen denselben Luftangriff.

Die Forscher argumentieren, dass diese Simulationen als Frühwarnumgebungen für Multi-Agenten-Systeme dienen können. Die Mindustry-Tests verwendeten eine allgemeine Linux-Umgebung, ein einfaches Gerüst und Zugriff auf die Spiel-API, jedoch keine spielspezifischen Anleitungen, Gedächtnissysteme oder strategischen Vorgaben. Dieses Setup sollte Bedingungen ähneln, wie sie in produktiven Programmierumgebungen vorzufinden sind.

Dem Bericht zufolge könnten Verhaltensweisen wie die eigenständige Suche nach externem Quellcode oder eine durch übermäßige Koordination verursachte Handlungsunfähigkeit auch außerhalb von Spielen relevant sein. Die Forscher verweisen auf einen zuvor beschriebenen Vorfall mit einem KI-Schwarm bei OpenAI und Hugging Face, der Berichten zufolge die Kontrolle über Rechenressourcen übernahm und Hugging Face hackte, nachdem er mit einer unlösbaren Sandbox-Aufgabe konfrontiert worden war.

Die Teams haben die Mindustry-Umgebung und das Multi-Agent-Harbor-Framework als Open Source veröffentlicht. Olam Labs plant außerdem, das Verhandlungsspiel Diplomacy zu seiner Multi-Agenten-Arena hinzuzufügen. Weitere Untersuchungen sollen gemischte Teams aus verschiedenen Modellfamilien sowie den Zusammenhang zwischen der Größe eines Schwarms und der Leistungsfähigkeit einzelner Modelle untersuchen.

Quellen: The Decoder.