Atualmente, os usuários de IA não têm uma maneira direta de confirmar que o modelo que selecionaram gerou uma resposta. Um serviço poderia encaminhar uma solicitação para um modelo mais barato, ou um invasor poderia adulterar o fluxo de dados. A Anthropic afirma que seu protótipo de pesquisa, o FlashProve, foi desenvolvido para ajudar a reduzir essa lacuna de confiança.

O sistema usa uma técnica criptográfica conhecida como zkSNARK. Um provedor cria uma impressão digital dos pesos de um modelo e, em seguida, fornece uma prova compacta com cada resposta, atestando que a saída veio daquele modelo. A prova não revela os próprios pesos.

O relatório técnico da Anthropic afirma que o FlashProve consegue gerar provas a cerca de 110 tokens por segundo em uma única GPU H100, quando usado com o Llama 4 Maverick, da Meta, com 400 bilhões de parâmetros. Cada prova tem aproximadamente 19 megabytes e leva 17 segundos para ser verificada em uma CPU convencional. O processo acrescenta um custo computacional de aproximadamente 70 a 95 vezes o da inferência comum.

Ainda assim, isso representa uma melhora substancial em relação ao único sistema de código aberto comparável citado pela Anthropic, que levou mais de 14 horas para processar 1.000 tokens. A prova tinha 93,6 gigabytes e levava quase um dia para ser verificada.

Entre as possíveis aplicações estão permitir que órgãos reguladores verifiquem se os provedores executam apenas modelos aprovados, ajudar empresas a demonstrar que o código foi revisado por um modelo de segurança específico e detectar adulterações nos servidores de um provedor.

A Anthropic havia estabelecido como meta para setembro de 2026, em seu Roteiro de Segurança de Fronteira, criar um protótipo de verificação de inferência. A empresa afirma ter atingido essa meta separadamente com um sistema que assina o tráfego de inferência e rastreia a computação em um servidor confiável. O FlashProve busca o mesmo objetivo usando apenas criptografia, sem exigir hardware confiável.

A empresa ressalta que o FlashProve ainda é experimental. Atualmente, ele consegue provar contextos de até 1.024 tokens, não oculta a arquitetura de um modelo e só funciona quando o modelo seleciona o próximo token mais provável. Isso exclui as saídas aleatórias comumente usadas por chatbots.

O código, as provas em Lean e a documentação do FlashProve estão disponíveis no GitHub sob a licença Apache 2.0.

Fontes: The Decoder.