AI技術速報 ── 2026-11-04
AnthropicがAI応答の出所証明を試作
AnthropicがFlashProveを公開。応答を出したモデルを暗号で証明する試み。
何が変わるか
利用者が、AIの応答が名乗ったモデルから出たかを検証できる可能性が出てきた。Anthropicによると、証明はモデルの重みを明かさない。重みとは、モデルの挙動を決める内部の数値のことだ。
ただし同社は、これを完成した研究計画ではなく中間報告だと述べている。Mezha.netによると、Anthropicや他の研究所で導入する計画は今のところない。
なぜ重要か
Anthropicによると、現在の利用者は応答がどのモデルから出たかを確かめる手段をほとんど持たない。経路を仲介する業者が、費用削減のために別のモデルへ差し替える場合がある。攻撃者がトークンの流れを改ざんする場合もある。
同社は、独立の評価者が評価対象と提供中のモデルの一致を確認する用途も挙げている。提供者が約束や法的義務を守っていると示す用途も挙げた。トークンとは、モデルが出力する文字列の単位だ。
何か
FlashProveは、Anthropicが公開したオープンソースの試作システムだ。同社はこれを「証明可能な推論」の試作と呼ぶ。提供者がモデルを約束し、各応答がそのモデルから出たことを暗号で証明する。
使う技術は zkSNARK という暗号の証明だ。証明は短く、利用者が素早く確認でき、内容を明かさない。Anthropicによると、モデルの重みは隠すが、構造の秘匿は目標ではない。
どこで・誰が
開発したのは Anthropic の Roy Rinberg 氏と Alex Allain 氏らだ。EPFL、MIT などの研究者も名を連ねる。Anthropicは、Apache 2.0 ライセンスでコードと文書を公開した。
公開物は五つある。ブログ記事、技術報告、仕様書、実行コード、Lean の証明だ。Mezha.netによると、一部は GitHub で公開されている。Mezha.netは、導入計画はないと報じている。
なぜ作られたか
Anthropicによると、多くの先端モデルは重みが非公開だ。重みが手元にあっても、応答の検証にはモデルの実行が要る。それには一般の利用者や評価者が持てない計算資源が必要になる。
そこで同社は、計算資源が少なく重みを知らない利用者でも、応答の出所を確かめられる仕組みを目指した。信頼の向上に加え、AI開発の速度の調整や規制にも関わると同社は述べている。
どう動くか
Anthropicによると、提供者は応答に短い証明を添える。数メガバイト程度で、利用者の CPU で数秒の確認を理想とする。応答が指定のモデルと違えば、確認は失敗する。
同社の発表では、4 ビット量子化の Llama 4 Maverick（400B パラメータの混合専門家モデル）で測った。H100 GPU 1 基で毎秒約 110 トークンの証明を作り、1,024 トークンの要求あたり約 19 MB だった。プロンプト処理の GPU 時間は、vLLM の約 70〜95 倍だ。量子化は数値の精度を下げて軽くする手法だ。
同社は、Claude の最適化判断は評価しにくいと述べ、安全性の主張を Lean で検証できる形にした。Lean は形式検証の言語だ。
要点
- Anthropicは、応答の出所を暗号で証明する試作FlashProveを公開した。
- 同社の発表では、H100 1 基で毎秒約 110 トークン、証明は約 19 MB だ。
- 同社は中間報告と位置づけ、Mezha.netは導入計画なしと報じた。
結語
FlashProveは、応答を出したモデルを重みを隠したまま検証する試作だ。性能の数字は Anthropic の発表によるものだ。同社は中間報告としており、Mezha.netによると導入計画はない。
引用と出典
“Cryptographic proofs of inference solve this problem: they let a model provider commit to a model and then prove that each response was produced by that model.”（和訳）推論の暗号的証明はこの問題を解決する。モデル提供者がモデルを約束し、各応答がそのモデルから出たことを証明できる。── Anthropic, 2026-11-03
“a single H100 GPU generates proofs at around 110 tokens/second, with a proof size of ~19 MB per 1,024-token request”（和訳）H100 GPU 1 基で毎秒約 110 トークンの証明を生成し、証明の大きさは 1,024 トークンの要求あたり約 19 MB である。── Anthropic, 2026-11-03
“This research post is meant to share intermediate progress, and not a completed research agenda.”（和訳）この研究記事は、完成した研究計画ではなく、中間的な進捗を共有するためのものだ。── Anthropic, 2026-11-03
“Research is ongoing, and there are no plans to deploy the system at Anthropic or any other lab.”（和訳）研究は継続中で、このシステムを Anthropic や他の研究所で導入する計画はない。── Mezha.net, 2026-11-04
材料にした記事
この速報は AI（Claude）が出典の記事から書き、Jev（TypeSafe の判定モデル）と Gemini の裏取り、引用の逐語の照合を通したものです。