Relatórios de IA · Anthropic · 2026-11-02 · Blog / comentário
Progresso em inferência comprovável para modelos de linguagem de grande porte
Título original: Progress on provable inference for large language models
A Anthropic compartilha avanços em provas criptográficas baseadas em zkSNARK para inferência verificável de modelos, principalmente por meio de um sistema chamado FlashProve. As provas permitem que um provedor de modelo se comprometa com um modelo e comprove que cada resposta veio dele, algo que, segundo o post, é difícil de verificar apenas pelas saídas. De acordo com o trecho, para o Llama 4 Maverick (um modelo de mistura de especialistas com 400 bilhões de parâmetros) com pesos quantizados em 4 bits, uma única GPU H100 gera provas a cerca de 110 tokens por segundo, com tamanho de prova de cerca de 19 MB por requisição de 1.024 tokens.