Informes de IA · Anthropic · 2026-11-02 · Blog / comentario
Avances en la inferencia demostrable para modelos de lenguaje de gran tamaño
Título original: Progress on provable inference for large language models
Anthropic comparte avances en pruebas criptográficas basadas en zkSNARK para la inferencia verificable de modelos, principalmente mediante un sistema llamado FlashProve. Las pruebas permiten que un proveedor de modelos se comprometa con un modelo y demuestre que cada respuesta proviene de él, algo que, según la publicación, es difícil de comprobar solo a partir de los resultados. Según el extracto, para Llama 4 Maverick (un modelo de mezcla de expertos de 400B parámetros) con pesos cuantizados a 4 bits, una sola GPU H100 genera pruebas a unos 110 tokens por segundo, con un tamaño de prueba de aproximadamente 19 MB por solicitud de 1,024 tokens.