Les utilisateurs d’IA ne disposent actuellement d’aucun moyen direct de confirmer que le modèle qu’ils ont choisi a généré une réponse. Un service pourrait acheminer une requête vers un modèle moins coûteux, ou un attaquant pourrait falsifier le flux de données. Anthropic affirme que son prototype de recherche, FlashProve, vise à contribuer à combler ce déficit de confiance.
Le système utilise une technique cryptographique appelée zkSNARK. Un fournisseur crée une empreinte numérique des poids d’un modèle, puis fournit une preuve compacte avec chaque réponse, attestant que le résultat provient de ce modèle. La preuve ne révèle pas les poids eux-mêmes.
Le rapport technique d’Anthropic indique que FlashProve peut générer des preuves à environ 110 jetons par seconde sur un seul GPU H100 lorsqu’il est utilisé avec Llama 4 Maverick de Meta, un modèle de 400 milliards de paramètres. Chaque preuve fait environ 19 mégaoctets et sa vérification prend 17 secondes sur un processeur standard. Le processus entraîne une surcharge d’environ 70 à 95 fois celle d’une inférence ordinaire.
Il s’agit tout de même d’une amélioration considérable par rapport au seul système open source comparable cité par Anthropic, qui mettait plus de 14 heures à traiter 1 000 jetons. Sa preuve faisait 93,6 gigaoctets et sa vérification prenait presque une journée.
Parmi les applications potentielles figurent la possibilité pour les organismes de réglementation de vérifier que les fournisseurs n’exécutent que des modèles approuvés, l’aide aux entreprises pour démontrer que du code a été examiné par un modèle de sécurité particulier, et la détection de falsifications sur les serveurs d’un fournisseur.
Dans sa feuille de route pour la sécurité à la frontière, Anthropic avait fixé à septembre 2026 l’échéance d’un prototype de vérification de l’inférence. L’entreprise affirme avoir atteint cet objectif séparément, avec un système qui signe le trafic d’inférence et retrace les calculs sur un serveur de confiance. FlashProve poursuit le même objectif en s’appuyant uniquement sur la cryptographie, sans nécessiter de matériel de confiance.
L’entreprise précise que FlashProve reste expérimental. Il peut actuellement prouver des contextes allant jusqu’à 1 024 jetons, ne dissimule pas l’architecture d’un modèle et ne fonctionne que lorsque le modèle sélectionne le prochain jeton le plus probable. Cela exclut les résultats aléatoires couramment utilisés par les chatbots.
Le code, les preuves Lean et la documentation de FlashProve sont disponibles sur GitHub sous la licence Apache 2.0.
Sources: The Decoder.