Nutzer von KI haben derzeit keine direkte Möglichkeit zu bestätigen, dass das von ihnen ausgewählte Modell eine Antwort erzeugt hat. Ein Dienst könnte eine Anfrage an ein günstigeres Modell weiterleiten, oder ein Angreifer könnte den Datenstrom manipulieren. Anthropic zufolge soll sein Forschungsprototyp FlashProve helfen, diese Vertrauenslücke zu schließen.

Das System verwendet eine kryptografische Technik namens zkSNARK. Ein Anbieter erstellt einen digitalen Fingerabdruck der Gewichte eines Modells und liefert dann zu jeder Antwort einen kompakten Nachweis dafür, dass die Ausgabe von diesem Modell stammt. Der Nachweis legt die Gewichte selbst nicht offen.

Laut dem technischen Bericht von Anthropic kann FlashProve mit Metas Llama 4 Maverick mit 400 Milliarden Parametern auf einer einzelnen H100-GPU Nachweise mit etwa 110 Tokens pro Sekunde erstellen. Jeder Nachweis ist ungefähr 19 Megabyte groß und lässt sich auf einer Standard-CPU in 17 Sekunden überprüfen. Der Prozess verursacht etwa das 70- bis 95-Fache des Aufwands gewöhnlicher Inferenz.

Das ist dennoch eine erhebliche Verbesserung gegenüber dem einzigen vergleichbaren quelloffenen System, das Anthropic anführt und das mehr als 14 Stunden benötigte, um 1.000 Tokens zu verarbeiten. Sein Nachweis war 93,6 Gigabyte groß und die Überprüfung dauerte fast einen Tag.

Zu den möglichen Anwendungen gehört, Regulierungsbehörden die Prüfung zu ermöglichen, ob Anbieter ausschließlich zugelassene Modelle ausführen, Unternehmen dabei zu helfen nachzuweisen, dass Code von einem bestimmten Sicherheitsmodell überprüft wurde, und Manipulationen auf den Servern eines Anbieters aufzudecken.

Anthropic hatte in seiner Frontier Safety Roadmap als Ziel für September 2026 einen Prototyp zur Inferenzverifizierung festgelegt. Das Unternehmen erklärt, dieses Ziel unabhängig davon mit einem System erreicht zu haben, das den Inferenzdatenverkehr signiert und Berechnungen auf einem vertrauenswürdigen Server nachverfolgt. FlashProve verfolgt dasselbe Ziel ausschließlich mithilfe von Kryptografie und ohne vertrauenswürdige Hardware vorauszusetzen.

Das Unternehmen weist darauf hin, dass FlashProve weiterhin experimentell ist. Derzeit kann es Kontexte mit bis zu 1.024 Tokens nachweisen, verbirgt die Architektur eines Modells nicht und funktioniert nur, wenn das Modell jeweils das einzelne wahrscheinlichste nächste Token auswählt. Dadurch sind die zufälligen Ausgaben ausgeschlossen, die Chatbots häufig verwenden.

Der Code, die Lean-Beweise und die Dokumentation von FlashProve sind auf GitHub unter der Apache-2.0-Lizenz verfügbar.

Quellen: The Decoder.