01運営者は「書いてあるものだけを見ても誤りは減らない」と AI に伝えた

2026 年 9 月、運営者は AI に一つの違和感を渡した。資材審査で誤りが繰り返される。審査の手順は整っている。それでも同じ種類の指摘が消えない。運営者の見立ては、審査する側が資材に書いてある情報だけを対象にしているからだ、というものだった。

運営者は AI に、原典と資材のあいだにある情報量の差を疑わないと事故が起きる、という仮説を渡した。加えて、この構造を認知の癖や他の業界の事故事例と結びつけて記事にするよう頼んだ。

AI が返した記事の骨組みには、心理学の概念と航空・医療の事故報告が入っていた。運営者の現場の違和感が、再現可能な構造の説明に変わった場面である。

02見えている情報だけで判断を終える癖は、業務を超えた認知の構造である

Daniel Kahneman は 2011 年の著書で、人間の判断に繰り返し現れる傾向を報告した。手元にある情報だけで筋の通った話を組み立て、足りない情報があることに気づかない傾向である。Kahneman はこれを「手元にある情報がすべて」と呼んだ。

資材審査に当てはめると、審査者が資材を開き、書かれている表現を一つずつ確かめる行為は、まさにこの傾向の上に乗っている。資材の文面が整っていれば、原典を開いて情報量の差を調べようという動機が生まれにくい。整った文面それ自体が、「足りない情報がある」という信号を打ち消すからである。

見るところ資材だけを見る審査原典との差を疑う審査
審査の対象資材に書いてある文面資材に書いてある文面+原典に書いてあるが資材にない情報
見つかる誤り表現の不適切さ、誤字、出典の番号違い左に加え、情報の欠落、数値の取捨選択の偏り、文脈の省略
見つからない誤り原典にあるが資材に移されなかった安全性情報原典自体の誤り(審査の外)
図 1 審査の対象範囲による見つかる誤りの違い
資材を開く文面だけ確かめる表現の誤り・誤字は見つかる原典との差を確かめる情報の欠落・数値の偏りも見つかる欠落に気づかない安全性情報が抜けたまま完成する資材を開く文面だけ確かめる表現の誤り・誤字は見つかる原典との差を確かめる情報の欠落・数値の偏りも見つかる欠落に気づかない安全性情報が抜けたまま完成する
資材だけを見る審査は、表現の誤りを見つけるが、載っていない情報の欠落には気づけない。

03書かれていないものを見落とす損は、書かれているものの誤りより大きい

書かれている表現の誤りは、指摘されれば直せる。書かれていない情報の欠落は、誰も指摘しないまま資材が完成し、読み手に届く。読み手は、資材に載っている情報で判断を終える。原典に載っている注意事項が資材から抜けていた場合、読み手はその注意事項を知らないまま行動する。

WHO の患者安全に関する報告は、診断の誤りが医師と患者の接触の 5〜20% で起きていると推定した。報告が挙げる要因の一つは、情報の伝達が途切れることである。原典の情報が資材に移される過程で一部が落ちる構造は、情報の伝達が途切れる構造と同じである。

製薬の領域では、安全性に関する情報が資材に十分に反映されていなかった事例が規制当局の報告で繰り返し取り上げられている。問題の根は、資材を作る過程で情報が削られたことではなく、削られた事実に誰も気づかなかったことにある。

04情報量の差とは、原典に含まれ資材に含まれないデータの総量である

情報量の差を定義しておく。原典(承認申請の資料、添付文書、審査報告書、臨床試験の論文など)に含まれる事実のうち、資材に移されなかった事実の総量を、ここでは情報量の差と呼ぶ。

1

原典に含まれる事実

全体の集合

有効性のデータ、安全性のデータ、患者背景、除外基準、試験の限界など。

2

資材に移された事実

部分集合

紙面や目的に合わせて選ばれた情報。有効性を中心に構成されることが多い。

3

情報量の差

1 から 2 を引いた残り

安全性情報の一部、試験の限界、対象外の患者群など。見えにくいが影響は大きい。

4

審査が見るべき範囲

2 だけでなく 3 も含む

3 に含まれる事実が読み手の判断を変えうるなら、資材に載せるかどうかを審査で問う。

この差がゼロになることはない。資材の紙面は有限であり、原典のすべてを転記する必要もない。問題は差があることではなく、差の中身を誰も確かめないまま資材が完成することである。

05資材審査では、安全性情報の欠落が最も損の大きい見落としになる

資材審査の実務で、情報量の差が最も影響するのは安全性に関する情報である。有効性のデータは資材の主題だから載る。しかし、試験で観察された副作用の頻度、特定の患者群での注意事項、併用禁忌の条件などは、紙面の都合や構成の判断で原典より少なくなりやすい。

米国医学研究所(現・全米医学アカデミー)の 2000 年の報告書『To Err Is Human』は、医療における誤りの多くは個人の不注意ではなく、システムの設計に原因があると指摘した。報告書の推定では、年間で最大 98,000 人が医療上の誤りで亡くなっていた。この報告書が一貫して強調したのは、問題は悪い人がいることではなく、良い人が悪いシステムで働いていることだ、という点である。

資材審査の文脈でこの指摘を読み替えると、審査者が原典を確かめない原因は、審査者の怠慢ではなく、資材だけを対象にすればよいという業務設計にある。原典との照合を手順に入れていなければ、どれほど注意深い審査者でも情報量の差には気づけない。

06見えているものだけで判断が完結する仕組みが三つ重なっている

なぜ情報量の差が放置されるのか。三つの仕組みが重なっている。

一つ目は、先に述べた認知の傾向である。手元にある情報で話が通るとき、人は足りない情報を探しに行かない。資材の文面が整っていれば、原典に戻る動機が弱まる。

二つ目は、役割の分離である。原典を読むのは資材を作る側の仕事であり、審査する側は完成した資材を見る。この分離が合理的に見えるため、審査者が原典に立ち返ることをためらわせる。「原典を見るのは作成者の役割だ」という暗黙の境界がある。

三つ目は、James Reason が航空や医療の事故分析で示した構造である。Reason は、事故は一つの失敗で起きるのではなく、組織の各層にある穴が偶然一直線に並んだときに起きると論じた。資材審査では、作成時の省略、審査時の見落とし、上長の形式的な承認、という複数の層の穴が重なったときに、安全性情報の欠落した資材が外に出る。

図 2 情報量の差が放置される三つの層
認知の癖手元の情報で話が通れば探しに行かない役割の分離原典を見るのは作成者の仕事という境界組織の層の穴作成・審査・承認の各層で見落としが重なる欠落した資材が外に出る認知の癖手元の情報で話が通れば探しに行かない役割の分離原典を見るのは作成者の仕事という境界組織の層の穴作成・審査・承認の各層で見落としが重なる欠落した資材が外に出る
一つの要因だけでは事故にならない。三つの層の穴が重なったときに、安全性情報の欠落した資材が完成する。

07明日からは「資材にないが原典にある情報」を審査の対象に加える

具体策は三つある。

  1. 原典の安全性情報の一覧を先に作る。審査に入る前に、原典から安全性に関する項目(副作用の頻度、特定の患者群への注意、併用禁忌)を抜き出す。AI にこの作業を任せれば、数分で一覧が返る。
  2. 一覧と資材を突き合わせ、差を書き出す。一覧の項目のうち、資材に反映されていないものを書き出す。すべてを載せる必要はない。載せない判断をするためにも、差の中身を見る必要がある。
  3. 「載せない」という判断を記録に残す。差の中にある項目を載せないと決めたなら、その理由を一文で記録する。理由が残れば、別の審査者が同じ資材を見たときに、判断の根拠を追える。
手順やることAI に任せられる部分
1. 一覧作成原典の安全性項目を抜き出す項目の抽出と整理
2. 突き合わせ一覧と資材の差を書き出す文面の比較と差分の列挙
3. 判断の記録載せない理由を一文で残す人が判断し、人が書く
図 3 明日からの 3 手順
原典の安全性項目を一覧にするAI で抽出一覧と資材を突き合わせるAI で差分を列挙載せない判断を記録する判断の根拠が残る原典の安全性項目を一覧にするAI で抽出一覧と資材を突き合わせるAI で差分を列挙載せない判断を記録する判断の根拠が残る
一覧の作成と比較は AI に任せ、載せるか載せないかの最終判断は人が行う。
Key Points ── 持ち帰る 3 つ
  1. 資材に書いてある情報だけを見る審査は、原典との情報量の差に気づけない。書かれていない情報の欠落は、書かれている表現の誤りより影響が大きい。
  2. 情報量の差が放置される原因は、手元の情報で判断を終える認知の癖、役割の分離による暗黙の境界、組織の複数の層で穴が重なる構造の三つである。
  3. 原典から安全性情報の一覧を先に作り、資材と突き合わせ、載せない判断を記録に残す。一覧の作成と比較は AI に任せ、最終判断は人が行う。
結語

運営者が AI に渡したのは、審査の現場で長く感じていた違和感だった。書いてあるものだけを見ても誤りは減らない、という一文である。AI はその違和感に、認知心理学の知見と他業界の事故分析を結びつけ、再現可能な構造として返した。現場の違和感を着想の入口にすること、そしてその違和感を AI に構造化させることが、この回の型である。

出典·参考文献
  1. Kahneman, D. Thinking, Fast and Slow. Farrar, Straus and Giroux, 2011. https://us.macmillan.com/books/9780374533557/thinkingfastandslow
  2. Reason, J. Human error: models and management. BMJ, 320(7237), 768–770, 2000. https://doi.org/10.1136/bmj.320.7237.768
  3. Institute of Medicine. To Err Is Human: Building a Safer Health System. National Academies Press, 2000. https://nap.nationalacademies.org/catalog/9728/to-err-is-human-building-a-safer-health-system
  4. World Health Organization. Patient safety fact sheet. WHO, 2023. https://www.who.int/news-room/fact-sheets/detail/patient-safety
この回の材料 運営者(2023 年 3 月から生成 AI を使用)が 2026 年 2 月以降に Claude と交わした依頼と判断の記録を匿名化し、個別の事情を外して「型」として一般化しました。発言の引用はしていません。出典に挙げたのは、型の背景を確かめるための公開資料です。