生成AIが下書きした販促資材を、ベテランの審査担当者がそのまま通した。表現は正確で、構文は見慣れたものだった。経験が長いほど新しい見え方が減るのは、なぜか。知識が足りないからではない。脳が「見なくていい」と判断する範囲が広がるからだ。
01AIの下書きが通った理由
生成AIが作った文章には、一つの特徴がある。文法的に正しく、構文が整っていて、過去の資材に似た形をしている。審査担当者が毎日見ている文章の形に近い。
経験の長い担当者は、この「見慣れた形」に反応しにくくなっている。15年間、同じ種類の文書を読み続けた結果、脳は「この形は安全だ」という判断を自動化している。AIの下書きがその形に合致していれば、異常として検知されない。
問題は、AIの下書きが正確であるとは限らないことだ。承認外の用法に関するデータの扱い、出典の正確さ、文脈に応じた表現の適切さ。これらは形ではなく中身の問題であり、形に慣れた脳が最も見落としやすい部分にある。
02脳が省略を覚える仕組み
認知心理学では、この現象をスキーマの固定化として説明する。スキーマとは、繰り返される経験から脳が作り上げた処理の型だ。
新人のとき、審査担当者は一行ずつ読む。すべてが初めてだから、省略する基準がない。経験を重ねると、「このパターンは問題ない」という判断が蓄積される。10年経つと、ページの大部分を読まなくても「異常なし」と判断できるようになる。
この省略は効率化であり、それ自体は合理的だ。問題は、省略の対象を脳が自動で決めていることにある。意識的に「ここは読まなくていい」と決めているのではなく、脳が勝手に飛ばしている。だから本人には、飛ばしたという自覚がない。
| 経験年数 | 読み方 | 省略の範囲 |
|---|---|---|
| 1〜3年 | 一行ずつ、すべてを確認 | ほぼなし |
| 5〜10年 | パターンで判断、異常だけ精読 | 見慣れた構文を飛ばす |
| 10年超 | 全体を見渡し、違和感だけ拾う | 違和感がなければ全体を飛ばす |
03認知的倹約という名前
心理学者のスーザン・フィスクとシェリー・テイラーは、人間を「認知的倹約家」と呼んだ。情報を完全に処理する能力があっても、脳はエネルギーを節約するために省略を選ぶ。
この倹約は、日常生活では優れた戦略だ。信号の色を毎回最初から考え直す人はいない。しかし審査の場面では、倹約が見落としに変わる。AIが作った文章は、まさにこの倹約の隙間に入り込む。脳が「処理済み」として扱う形をしているからだ。
経験が長い人ほど、この倹約の精度が上がる。精度が上がると、正しく省略できたという成功体験が増え、省略の対象が広がる。省略の対象が広がるほど、新しい種類の異常を見つけにくくなる。
04経験が視野を狭める三つの経路
経験が新しい見え方を減らす仕組みは、三つの経路で説明できる。
確認バイアス
過去に正しかった判断基準を繰り返し使う。その基準に合わない情報は、無意識に軽く扱われる。経験が長いほど、基準は固くなる。
機能的固定
ものごとを既知の用途でしか見られなくなる現象。ハンマーを持つと、すべてが釘に見える。審査の型を持つと、型に合わない問題が見えなくなる。
過学習
機械学習の用語だが、人間にも当てはまる。過去のデータに最適化しすぎると、新しいデータへの対応力が落ちる。経験の大部分は、過去のデータへの最適化で成り立っている。
三つに共通するのは、経験の蓄積が処理の効率を上げると同時に、処理の範囲を狭めるという構造だ。良いことと悪いことが、同じ仕組みから出ている。
05AIが作る「見慣れた異常」
生成AIの登場で、この問題は新しい段階に入った。
従来、審査で見落とされるのは人間が書いた文章だった。人間の書く文章には癖がある。癖があるから、いつもと違う癖が出たときに気づける。AIが書く文章には個人の癖がない。代わりに、訓練データの平均的な形が出る。
この平均的な形は、審査担当者が「正常」として記憶しているパターンに近い。AIの下書きは、人間が書いた文章より「見慣れた形」をしている。だから経験者のスキーマに引っかからない。
AIが生成した資材は、誤りがあっても形が正しいという、これまでにない組み合わせを作る。形で判断する経験者ほど、中身の誤りを見逃す確率が上がる。
06経験を持ちながら初心を保つ方法
では、経験の蓄積と新しい見え方の維持を両立させるには、何が必要か。
心理学者のエレン・ランガーは「マインドフルネス」という概念で、慣れた作業でも意識的に新しい側面に注目する姿勢を提案した。ここでのマインドフルネスは瞑想ではなく、「いま見ているものを、初めて見るかのように扱う」という認知的な態度を指す。
実務に落とすと、こうなる。審査の手順を定期的に変える。同じ資材を、別の担当者にも読ませる。AIが下書きした資材に限り、チェックリストの項目を増やす。形ではなく中身に注目する仕組みを、個人の意志力ではなく制度として入れる。
個人の注意力に頼る
「もっと気をつけて読む」という対策は、脳の省略を意志の力で止めようとする試みだ。一時的には効くが、処理量が増えれば元に戻る。持続性がない。
制度で注意を補う
手順の変更、複数人審査、専用チェックリストは、個人のスキーマに依存しない。人が変わっても仕組みは残る。個人の努力と制度は排他ではないが、個人の努力だけでは組織として持続しない。
| 対策 | 狙い | 仕組み |
|---|---|---|
| 手順の定期変更 | スキーマの固定化を遅らせる | 四半期ごとに審査手順を見直す |
| 複数人による審査 | 一人のスキーマに依存しない | 経験年数の異なる二人で読む |
| AI下書き専用の確認項目 | 形ではなく中身に注目させる | 出典・用法・文脈の三項目を追加 |
07経験の価値を捨てずに使う
経験が長いこと自体は、弱みではない。経験があるから速く読める。速く読めるから多くの資材を処理できる。処理量が多いから、組織は回る。
問題は、速さと見落としが同じ仕組みから生まれることに、本人が気づきにくいことだ。気づくための手段は、自分の判断を疑うことではない。自分の判断が省略している部分を、制度的に補うことだ。
AIの下書きが増える時代に、経験者の役割は「全部を自分で見ること」から「自分が見えていない部分を知ること」に変わる。見えていない部分を知るには、自分とは違うスキーマを持つ人と組むか、自分のスキーマを意識的に壊す仕組みが要る。
- 経験が長いほど新しい見え方が減るのは、脳がスキーマを固定化し、処理の省略範囲を広げた結果。省略の対象は本人が意識的に選んでいるのではなく、脳が自動で決めている。
- 生成AIの下書きは、訓練データの平均的な形をしているため、経験者のスキーマに「正常」として処理されやすい。形が正しいのに中身が誤っているという、従来にない組み合わせが生まれている。
- 経験の価値を保ちながら盲点を補うには、審査手順の定期変更、複数人での審査、AI下書き専用の確認項目など、個人の意志ではなく制度で対応する。
経験が長いほど新しい見え方が減るのは、能力が衰えたからではない。脳が省略を覚え、省略の範囲が広がった結果だ。この省略は効率化であり、同時に盲点の拡大でもある。AIが「見慣れた形の異常」を大量に作るいま、経験者に必要なのは、自分が何を飛ばしているかを知ることだ。それは個人の意志力の問題ではなく、仕組みの問題として解くべきことである。
- Frederic C. Bartlett. Remembering: A Study in Experimental and Social Psychology. Cambridge University Press, 1932.(スキーマ理論の原著。記憶が既存の枠組みによって変形される過程を実証)
- Susan T. Fiske & Shelley E. Taylor. Social Cognition: From Brains to Culture. 3rd ed., SAGE, 2013.(「認知的倹約家」としての人間像。省略と効率化の認知メカニズム)
- Ellen J. Langer. Mindfulness. Addison-Wesley, 1989.(慣れた作業における意識的注目の回復。マインドレスネスからの脱却)
- Daniel Kahneman. Thinking, Fast and Slow. Farrar, Straus and Giroux, 2011.(システム1とシステム2の区分。自動処理と意識的処理の二重過程理論)
- Karl E. Duncker. On Problem-Solving. Psychological Monographs, 58(5), 1945.(機能的固定の実験的研究。既知の用途がものの見え方を制限する)
- Gary Klein. Sources of Power: How People Make Decisions. MIT Press, 1998.(経験に基づく直観的意思決定。熟練者のパターン認識が速さと盲点の両方を生む)
- Karl Weick & Kathleen Sutcliffe. Managing the Unexpected. 3rd ed., Jossey-Bass, 2015.(高信頼性組織における「期待に縛られない注意」の設計。組織的な盲点対策)
- James Reason. Human Error. Cambridge University Press, 1990.(スキーマに基づくエラーの分類。省略エラーと取り違えエラーの構造)