AI資材を「大丈夫」と判断した瞬間の内側── 自信と過信の違いは、反証を探したかどうかにある

生成AIが下書きした資材の最終確認で、担当者が「問題ない」と判断する。AIの出力は整っており、見落としの不安は薄い。そのとき内側にある確信は、自信なのか過信なのか、内側からどう見分けられるのか。違いは判断の正しさではなく、反証を探したかどうか、つまり過程のなかにある。

01AIの出力が整っているほど不安が消える

生成AIが作る下書きは、形式的に整っている。文法の誤りが少ない。構成が論理的に見える。見出しと本文の対応が取れている。人間が書いた粗い草稿よりも、表面上の完成度は高いことが多い。

その整い方が、確認者の注意を下げる。粗い草稿なら「どこかに問題があるはずだ」と構えて読む。整った文書は「おそらく大丈夫だろう」という前提で読み始めてしまう。

ここに落とし穴がある。文書の品質が上がると、確認の質が下がるという逆の関係が生まれる。そして確認の質が下がったことに、確認者自身は気づかない。「問題なかった」のか「問題を探さなかった」のかは、結果からは区別できないからだ。

02自信と過信は内側からは同じ感覚である

心理学者のDaniel Kahnemanは、直感的な判断の確信度と実際の正確さの間にはしばしば相関がないことを示した。人は自分の判断に自信を持つとき、その自信が根拠に基づいているかどうかを内側からは判定できない。

Philip Tetlockの予測研究でも同じ結果が出ている。予測の正確さが高い人と低い人の間で、主観的な確信度に差はなかった。つまり「自分は正しいと感じる」という感覚は、正しさの指標にならない。

資材審査の文脈に戻せば、「この資材は大丈夫だ」と感じる瞬間の確信は、十分に検証した結果の自信かもしれないし、検証を省略した結果の過信かもしれない。内側の感覚だけでは、どちらか分からない。

03違いは過程に現れる

では何が自信と過信を分けるのか。結果ではない。結果は事後にしか分からない。

分けるのは過程だ。具体的には、反証を探す行動を取ったかどうか。「この資材に問題はない」と判断する前に、「この資材に問題があるとすればどこか」と問い直したかどうか。

Karl Popperは科学的な命題の条件として反証可能性を挙げた。仮説が正しいかどうかは、反証を試みて初めて分かる。審査の判断も同じ構造を持つ。「大丈夫だ」という判断は、反証を試みた後に残ったものだけが自信の名に値する。試みなかった場合は、感覚としては同じでも、過信と呼ぶ方が正確だ。

04AIが精度を上げるほど、過信の条件が揃う

生成AIの出力品質が向上するとき、二つのことが同時に起きる。

ひとつは、実際に問題が減ること。AIの性能が上がれば、明白な誤りは少なくなる。これは良いことだ。

もうひとつは、問題がないように見えること。明白な誤りが減るほど、確認者は「探しても見つからないだろう」と予測し、探す動機が弱まる。これは問題だ。なぜなら、AIの誤りがゼロになることはなく、残った誤りは表面からは見えにくい種類のものだからだ。

05審査の現場で過信が生まれる三つの場面

資材審査の実務で過信が発生しやすい場面を三つ挙げる。

第一に、時間の圧力。締め切りが迫ると、反証を探す余裕が減り、「問題はないはずだ」という前提で読むようになる。

第二に、繰り返し。同じ種類の資材を何十回も審査していると、過去の経験が現在の判断を支配する。「いつも大丈夫だった」は、今回も大丈夫である根拠にはならない。

第三に、AIへの慣れ。AI生成の下書きを何度も確認し、問題がなかった経験が積み重なると、確認の粒度が粗くなる。これはAI精度の向上と確認者の警戒度の低下が同時に進む場面であり、過信の条件が最も揃う。

06反証を探す仕組みを行動に埋め込む

自信と過信を内側の感覚で見分けるのは難しい。だから感覚に頼らず、行動のなかに反証を探す仕組みを埋め込む。

Gary Kleinの「プレモーテム」は、意思決定の前に「この判断が間違っていたとすれば、原因は何か」と問う手法だ。事後に失敗を分析するのではなく、事前に失敗を想像する。

資材審査に適用するなら、最終確認の前に一つだけ問いを立てる。「この資材に問題があるとすれば、それはどこか」。問いを立てた上で問題が見つからなければ、それは反証を試みた後の自信である。問いを立てずに「大丈夫だ」と判断した場合は、それが正しかったとしても、過程としては過信だ。

Amos Tverskyが示したように、人間は一度信じたことの確認情報を集めやすく、反証情報を無視しやすい。確証バイアスは意志で克服できないが、手順で緩和できる。反証を探す行動を手順の一部にしてしまえば、意志の強さに依存しない。

07記録することが過信を防ぐ

もうひとつ、実務で使える方法がある。判断の過程を記録することだ。

「問題なし」と判断したとき、何を確認し、何を確認しなかったかを短く書く。書く行為そのものが、確認の過程を意識化させる。書こうとして「何を確認したか」を思い出せないなら、それは確認が不十分だったことの手がかりになる。

Philip Tetlockが「超予測者」と呼んだ人々に共通していた特徴のひとつは、自分の予測の根拠を記録し、事後に振り返っていたことだ。記録は過信を防ぐだけでなく、自信の根拠を蓄積する方法でもある。同じ種類の判断を繰り返す仕事では、記録の蓄積がやがて判断の精度そのものを上げる。

過信を恐れる必要はない。恐れるべきは、過信していることに気づかないまま判断を重ねることだ。気づくための最も確実な手段は、反証を探す行動と記録を、判断の手順に組み込むことである。

「大丈夫だ」と感じる瞬間は、自信の証拠ではない。それは単に、確信が生じたという事実の報告にすぎない。

私自身、この問いに何度も立ち返る。原稿を書き終えたときの「これでいい」という感覚は、たいてい書き直す余地が見えなくなっただけのことだ。見えなくなったのか、見ようとしなくなったのか。その違いは、一晩寝て読み直すまで分からない。

反証を探す行為は面倒だ。だがその面倒さを引き受けた後にだけ、自信という言葉を使う資格がある。