AI 报告 · Anthropic · 2026-11-02 · 博客 / 评论
大语言模型可证明推理的进展
原标题: Progress on provable inference for large language models
Anthropic 分享了基于 zkSNARK 的密码学证明在可验证模型推理方面的进展，主要通过一个名为 FlashProve 的系统实现。这些证明使模型提供方能够对某个模型作出承诺，并证明每个响应都来自该模型；文章称，仅凭输出很难对此进行验证。根据摘录，对于采用 4 位量化权重的 Llama 4 Maverick（一个 400B 参数的混合专家模型），单块 H100 GPU 每秒可生成约 110 个 token 的证明，每个 1,024 token 的请求对应的证明大小约为 19 MB。