Actualmente, los usuarios de IA no tienen una manera directa de confirmar que el modelo que seleccionaron generó una respuesta. Un servicio podría dirigir una solicitud a un modelo más barato, o un atacante podría manipular el flujo de datos. Anthropic afirma que su prototipo de investigación, FlashProve, está diseñado para ayudar a abordar esa brecha de confianza.

El sistema utiliza una técnica criptográfica conocida como zkSNARK. Un proveedor crea una huella digital de los pesos de un modelo y luego proporciona una prueba compacta con cada respuesta que demuestra que el resultado provino de ese modelo. La prueba no revela los pesos en sí.

El informe técnico de Anthropic indica que FlashProve puede generar pruebas a unos 110 tokens por segundo en una GPU H100 cuando se utiliza con Llama 4 Maverick de Meta, de 400.000 millones de parámetros. Cada prueba tiene aproximadamente 19 megabytes y se tarda 17 segundos en verificarla en una CPU estándar. El proceso añade entre 70 y 95 veces la sobrecarga de una inferencia ordinaria.

Aun así, se trata de una mejora considerable frente al único sistema de código abierto comparable citado por Anthropic, que tardó más de 14 horas en procesar 1.000 tokens. Su prueba ocupaba 93,6 gigabytes y se tardaba casi un día en verificarla.

Entre las posibles aplicaciones se encuentran permitir que los organismos reguladores comprueben si los proveedores ejecutan únicamente modelos aprobados, ayudar a las empresas a demostrar que un modelo de seguridad específico revisó el código y detectar manipulaciones en los servidores de un proveedor.

Anthropic había fijado como objetivo septiembre de 2026 en su Hoja de ruta de seguridad de frontera para contar con un prototipo de verificación de inferencias. La empresa afirma que alcanzó esa meta por separado con un sistema que firma el tráfico de inferencias y rastrea los cálculos en un servidor de confianza. FlashProve persigue el mismo objetivo utilizando únicamente criptografía, sin requerir hardware de confianza.

La empresa advierte que FlashProve sigue siendo experimental. Actualmente, puede demostrar contextos de hasta 1.024 tokens, no oculta la arquitectura de un modelo y solo funciona cuando el modelo selecciona el siguiente token más probable. Esto excluye las salidas aleatorias que utilizan habitualmente los chatbots.

El código, las pruebas en Lean y la documentación de FlashProve están disponibles en GitHub con la licencia Apache 2.0.

Fuentes: The Decoder.