1. 「AI 生成か」と「事実か」は別の問いである

画像をめぐる確認作業は、ここ数年「これは AI が作った画像か」を見分ける方向に偏ってきた。abstract の冒頭はこの点を正面から指摘する。画像が AI 生成かどうかを判定しても、その画像が描いている状況が事実に支えられているかどうかは決まらない。[1]

実務で困るのは、むしろ後者である。本物の写真が、別の日、別の場所の出来事として流れる。撮影された場面は本物でも、添えられた説明と組み合わさると事実と違う話になる。逆に、画像処理が加えられていても、伝えている内容そのものは事実に合っていることもある。「生成か否か」の判定は、こうした場面の多くで答えにならない。

もう一つの難しさは、確認すべき主張が文章で与えられないことである。既存の事実確認の多くは「この写真は○○の様子だ」という主張文を受け取り、それを検証する形をとる。この論文が扱うのは、画像と「この画像の事実性を確かめよ」という一般的な指示だけが渡される状況だ。何を確かめるべきかを、システムが画像から自分で見つけなければならない。

2. 提案の芯は「調べながら問いを立て直す」こと

著者らは課題を次のように定める。画像と一般的な検証指示を受け取り、「裏付けあり（supported）」か「反証あり（refuted）」かの判定を、証拠に基づく説明と一緒に返す。主張文が無いため、システムは調査の途中で事実についての問いを少しずつ絞り込み、集めた外部の証拠を、画像が描く特定の状況と突き合わせる必要がある。

この課題に対して作られたのが EviScene である。abstract によれば、これはマルチモーダルの ReAct 型エージェントで、画像を見て確かめる、外部を検索する、集めた証拠を分析する、という三つの動きを交互に行う。ReAct は、推論と行動（検索などの道具の使用）を交互に進める枠組みとして先行研究で提案されたものである。[4]

この記事では、手法の芯を「新しく分かったことを使って問いを立て直し、画像の関係する部分を見直す」点に絞る。最初に立てた問いのまま検索を続けるのではなく、見つかった証拠に応じて問いを変え、画像の細部に戻る。主張文が与えられない設定では、この往復が判定の質を左右すると著者らは考えている。

学習の進め方も abstract に書かれている。まず、人が見直した教師モデルの調査記録（trajectory）で教師あり微調整を行い、小型の方策モデルを作る。次に、方策自身が行った調査のうち判定が検証できたものを使って、特権情報つきのオンポリシー自己蒸留を行う。特権情報が具体的に何を指すかは、abstract の範囲では示されていない。

3. abstract の範囲で示されたこと

読むときに注意したい点がある。判定の正確さに比べ、証拠の十分さの数値はかなり低い。判定が当たっても、その根拠として示した証拠が厳格な基準を満たすとは限らない、ということになる。「評価したエージェント」がどのシステムを指すのかは abstract には書かれておらず、他のエージェントとの差の大きさも示されていない。

4. 具体例で見る ── 社内に回ってきた一枚の写真

製薬の現場に近い一例で、主張文の無い確認がどう進むかを見る。社内チャットに「薬局の棚に、見慣れない包装の製品が並んでいる」という写真が貼られ、模倣品ではないかと話題になった場面を考える。以下は、EviScene の考え方を当てはめた説明用の例であり、論文がこの種の画像を扱ったかどうかは abstract の範囲では分からない。

担当者:この写真の事実性を確かめてほしい。
エージェント:（画像を見る）包装の表示、棚の値札、店内の掲示物が写っています。まず「この包装は正規品の現行デザインか」を問いにします。
エージェント:（検索する）公式サイトに包装変更のお知らせがあり、新しいデザインが掲載されています。写真の包装と一致します。
エージェント:（問いを立て直す）では「写真は、いつどこで撮られたものとして出回っているか」を確かめます。掲示物の文字を見直します。
エージェント:判定は「裏付けあり」です。根拠は公式のお知らせと包装の一致で、模倣品とする説明は支えられません。ただし撮影場所は証拠からは確認できませんでした。

この例で見たいのは、最初の問い（模倣品か）と、検索の後に立て直した問い（いつどこの写真か）が違うことだ。判定と一緒に「確認できなかったこと」を返す形は、論文が判定の正しさとは別に証拠の十分さを測っている理由とつながる。

5. 何が新しくないか、どこに限界があるか

まず、新しくない部分を分けておく。推論と検索を交互に行う ReAct 型の枠組みは先行研究にあり、外部の証拠で主張を確かめる事実確認の研究も以前から積み重なっている。教師モデルの記録で小型モデルを鍛える蒸留も、一般的な手法である。この論文の新しさは、主張文を与えない画像の事実性評価という課題の立て方と、その評価データ、そして証拠の十分さまで測る評価軸にあると読むのが妥当だろう。

限界は複数ある。第一に、EviLens の作り方である。管理された手順で作った画像は、誤りの種類を整理しやすい反面、実際に出回る誤情報の分布とは違うおそれがある。専門家の見直しがどの程度の範囲で行われたかも、abstract の範囲では示されていない。

第二に、証拠そのものの質である。エージェントは外部の検索結果に頼る。ウェブ上の情報が古い、誤っている、あるいは意図的に作られている場合、判定もそれに引きずられる。検索の対象や時点をどう固定したかは abstract に書かれていない。

第三に、数値の読み方である。balanced accuracy が約八割ということは、裏返せばおよそ五回に一回は判定を誤るということでもある。証拠の十分率はさらに低い。人の確認を置き換える水準とは言えず、著者らもそうは主張していない。

第四に、再現性である。コード、モデル、データは公開予定と書かれているが、abstract の時点では「公開する」という予定の表明である。本記事では公開状況を確認していない。

6. この主題が今なぜ束になっているか

選定の仕組みは、この論文を「エージェントと自律性」の束として拾った。束の大きさは 2 で、もう一本は競技プログラミングの解答を、提出せずに判定と診断まで行う研究「Beyond the Verdict」である。[3] こちらは、判定だけでなく、確かめられる証拠として反例を生成することを課題に据えている。

題材は画像とプログラムで大きく違う。共通するのは、「当たり／外れ」の判定だけを返すのではなく、第三者が確かめられる証拠を一緒に出させる方向である。エージェントに判断を任せる範囲が広がるほど、判定の正しさとは別に、その判定を後から点検できるかが問われる。二本の論文は、その要求を評価の設計に組み込もうとしている点で並んでいる。

話題性の数字も記しておく。Hugging Face の論文ページでの upvote は 44、コメントは 1、GitHub のスターは 0 である。[2] upvote は研究者の目に留まったことを示す票であって、主張の正しさや実務上の価値を保証するものではない。束も二本と小さく、主題が大きく立ち上がっていると言える段階ではない。

7. 製薬・規制の現場から見ると何が接続するか

製薬企業には、出所の分からない画像が日常的に入ってくる。SNS 上の製品写真、模倣品や偽造品の疑いがある包装の写真、副作用の相談に添えられた画像、販促資材に使おうとしている写真の出所確認などである。どれも「AI 生成かどうか」だけでは片づかず、写っている状況が事実かどうかが問題になる。

この論文の設計で実務に近いのは、判定と証拠の十分さを分けて評価している点である。規制に関わる判断では、結論そのものより、その結論に至った根拠を記録に残せるかが問われる。判定が当たっていても根拠が足りなければ、監査の場では説明がつかない。証拠の十分さを測る指標を別に置く考え方は、AI を確認作業に組み込むときの受け入れ基準を考える材料になる。

一方で、この種のエージェントを使うとしても、位置づけは一次の振り分けと調査記録の下書きまでだろう。検索結果に頼る以上、判定は検索した時点の情報に左右される。調査の記録を残し、最終判断は人が行い、人がその記録を読んで確かめられる形にしておく。プレプリントの段階の研究から実務に持ち込めるのは、具体的な性能よりも、この「判定と証拠を分けて残す」という設計の考え方である。