Al momento, gli utenti dell’IA non hanno un modo diretto per confermare che sia stato il modello selezionato a generare una risposta. Un servizio potrebbe inoltrare una richiesta a un modello più economico, oppure un aggressore potrebbe manomettere il flusso di dati. Anthropic afferma che il suo prototipo di ricerca, FlashProve, è stato concepito per contribuire a colmare questa lacuna di fiducia.

Il sistema usa una tecnica crittografica nota come zkSNARK. Un fornitore crea un’impronta digitale dei pesi di un modello, quindi fornisce con ogni risposta una prova compatta che attesta che il risultato proviene da quel modello. La prova non rivela i pesi stessi.

Il rapporto tecnico di Anthropic afferma che FlashProve può generare prove a circa 110 token al secondo su una singola GPU H100, se usato con Llama 4 Maverick di Meta, dotato di 400 miliardi di parametri. Ogni prova è di circa 19 megabyte e richiede 17 secondi per essere verificata su una CPU standard. Il processo comporta un sovraccarico pari a circa 70-95 volte quello dell’inferenza ordinaria.

Si tratta comunque di un miglioramento sostanziale rispetto all’unico sistema open source comparabile citato da Anthropic, che impiegava più di 14 ore per elaborare 1.000 token. La sua prova era di 93,6 gigabyte e richiedeva quasi un giorno per essere verificata.

Tra le possibili applicazioni rientrano consentire alle autorità di regolamentazione di controllare che i fornitori usino soltanto modelli approvati, aiutare le aziende a dimostrare che il codice è stato esaminato da uno specifico modello di sicurezza e rilevare manomissioni sui server di un fornitore.

Nella sua Frontier Safety Roadmap, Anthropic aveva fissato a settembre 2026 l’obiettivo di realizzare un prototipo per la verifica dell’inferenza. L’azienda afferma di aver raggiunto quell’obiettivo separatamente con un sistema che firma il traffico di inferenza e traccia i calcoli su un server attendibile. FlashProve persegue lo stesso obiettivo ricorrendo esclusivamente alla crittografia, senza richiedere hardware attendibile.

L’azienda avverte che FlashProve è ancora sperimentale. Al momento può dimostrare la correttezza per contesti fino a 1.024 token, non nasconde l’architettura di un modello e funziona solo quando il modello seleziona il singolo token successivo più probabile. Ciò esclude i risultati casuali comunemente usati dai chatbot.

Il codice di FlashProve, le prove Lean e la documentazione sono disponibili su GitHub con licenza Apache 2.0.

Fonti: The Decoder.