01まず、この仕組みが何をするか
製薬会社は、薬の説明のために冊子や広告を作ります。これを資材と呼びます。資材には、国が認めた範囲を超えたことを書いてはいけません。国が認めた範囲とは、その薬が「どの病気に」「どれだけの量で」「どんな注意つきで」使えるか、です。これを承認事実と呼びます。承認事実は、電子添文に書いてあります。電子添文とは、薬ごとに国が確認した公式の説明書です。
審査担当者は、数十ページの資材を読み、承認事実からはみ出した表現を探します。この「探す仕事」に時間の大半が消えます。そこで AI に、探す仕事を手伝わせます。AI は疑わしい箇所を見つけ、なぜ疑わしいかの根拠を添えて、人間に渡します。決めるのは人間です。
分業は一文で言えます。「ルールに書いてあることは、プログラムがそのまま照らし合わせる。書いていないことは、AI が文脈を読んで判定する。どの指摘も、ルールの原文まで遡れる」。この分業が土台です。
02資材を一つずつ調べる審査が抱える三つの問題
資材の文や図を一つずつ調べる審査には、三つの問題があります。この仕組みは、その三つに答える形で設計しました。
一つ目。指摘が重なります。 見逃しを防ぐために多めに出す方針なので、数が多いこと自体は覚悟しています。困るのは、中身の重なりです。たとえば「効果のグラフが大きい」「副作用の注意が小さい」「二つが隣に並んでいる」という三つの指摘が、別々に出ます。しかし、読んだ人の頭に残るのは「この薬は効いて、副作用は気にしなくてよい」という一つの誤った絵です。人間は、同じことを三回読まされることになります。
二つ目。文脈の読み方が混ざります。 資材の読み方は四つに分けられます。一文だけを読む、隣り合う二つを続けて読む、冊子を最初から最後まで読む、図だけを切り取って見る、の四つです。この四つを一つの質問にまとめて AI に投げると、分けたはずのものが AI への指示の中で混ざります。同じ理由で、「社会の目」という検査で使う人物の顔ぶれも、決めておかなければ書類ごとに揺れます。
三つ目。見逃しを数える仕組みが要ります。 「見逃しを最も重い失敗とする」と宣言するだけでは、実際に見逃したかどうかは分かりません。「本稼働の前に人間と並走して確かめる」という予定を置くだけでも同じです。数えていない優先順位は、優先順位ではありません。
03考え方の更新 ── 資材ではなく、「頭に残る絵」を審査する
土台になる考えは一つです。資材を作る側は、読む側より多くを知っています。読む側が誤解すれば、害を受けるのは読む側です。だから資材は、読む人に誤った絵を結ばせてはいけません。
大事なのは、審査する相手です。「資材の文や図が、承認事実の外に出ていないか」ではなく、「資材を読んだ人の頭に残る絵が、承認事実の外に出ていないか」を調べます。この「頭に残る絵」を、以下では像と呼びます。
像とは何か。読み終わったあとに頭に残る、いくつかの文の束です。二種類の文が入ります。一つは、資材にはっきり書いてある主張です。もう一つは、書いていないが、並べ方や省き方から読む人が自然に導く結論です。「効果のグラフが大きい」は資材の観察です。「この薬はよく効く」は像です。法律が禁じているのは、像の側の行き過ぎです。法律の言葉で言えば「誇大」や「誤解を招く」がそれです。
像を審査すると、二つ目の問題が解けます。四つの読み方は、別々の検査ではなく、同じ像を作るときの条件の違いになります。一文だけ読んだ人、隣の二つを続けて読んだ人、冊子を通して読んだ人、図だけを見た人。四人に同じ資材を読ませ、四つの像を作り、それぞれを承認事実と照らします。指摘は、像と承認事実の差に対して一つだけ付きます。その差がどの文や図から生まれたかは、経路として添えます。人間は、一つの誤った像を一度読めばよくなります。
ここで、AI とプログラムの役割分担をはっきりさせます。像を作るのは AI の仕事です。しかし、像と承認事実の差を取り、その差に「重い」「軽い」の札を付けるのは、プログラムが決まった規則で行います。たとえば「認められていない病気に効くと言っている」という差が出たとします。それが資材にはっきり書いてあれば最も重い札、ほのめかしなら二番目の札、というように規則で決めます。AI が像を語り、プログラムが像を裁く。「決めるのはプログラム、意味を読むのは AI」という分業は、像の水準で働きます。
04二つ目の土台 ── 見逃しは、数えなければ優先していない
「見逃しを防ぐ」ための工夫は三つあります。自信の低い疑いも捨てずに残す。AI に同じ質問を三回して、一回でも「問題あり」と出れば採用する。指摘を消すときは必ず理由を記録する。どれも正しい工夫です。
しかし、これらは「見逃さないための努力」です。「見逃していないことの確認」ではありません。努力と確認は別のものです。たとえば、毎朝戸締まりを確かめる習慣は努力です。空き巣に入られた回数を数えるのが確認です。数えなければ、習慣が効いているかは分かりません。
そこで、二つ目の土台を置きます。見逃しは、人間の最終判定との差として、資材ごとに数え、週ごとに集計し、決めた線を割ったら本稼働を止める。 このために、人間の審査担当者が下した「直す」「直さない」という判定と、その理由を、必ず AI の側に戻す道を作ります。戻ってきた判定のうち、AI が黙っていたものが見逃しです。見逃しは台帳に記録します。台帳とは、あとから見返せる記録帳のことです。台帳には「どの検査項目が反応すべきだったか」「どの読み方で像を作るべきだったか」を書き足します。
これで「見逃しゼロが 4 週続いたら本稼働」という基準は、願望ではなく計測値になります。AI は人間審査の前で探すだけでなく、人間審査の後で学ぶ役も持ちます。
05七つの原則 ── 六つを引き継ぎ、一つを足す
原則は七つあります。それぞれが、よくある反論に一つずつ答える形で作られています。下の表は、各原則が「どんな反論に答えるか」と「この仕組みでどう働くか」です。
| 原則 | 答える反論 | この仕組みでの意味 |
|---|---|---|
| ① 基準は承認事実 | 何を基準に正しいと言うのか | 基準は公式の説明書（電子添文）と、国の審査報告書と、安全対策の計画書の三つ。像を照らす相手は常にこの三つ |
| ② 事実でも誤解させない | 書いてあることが事実なら何が悪いのか | 事実を並べただけでも、誤った像が結ばれるなら問題。四つの読み方で像を作って確かめる |
| ③ 良い話だけ選ばない | 載せる情報は会社が選んでよいのでは | 効果ばかり大きく、副作用は小さく、という選び方は像に現れる。安全性の像が承認事実より軽ければ差になる |
| ④ 根拠のない指摘は出さない | その判定が正しいと誰が保証するのか | 指摘には、ルールの原文と、どの像のどの差か、を必ず付ける。付いていない指摘はプログラムが受け付けない |
| ⑤ 見逃しを最も重い失敗とする | AI は間違える。どちらの間違いを選ぶのか | 努力に確認を足す。人間の判定を戻し、見逃しを数え、線を割れば止める（第 04 節） |
| ⑥ ルールに無いことは自由ではない | 書いていないことは自由のはずだ | ルールに当たらない資材も「問題なし」とはせず、社会の目で読み直す。誰の目で読んだかを記録する |
| ⑦ 同じ判断は同じ判定 | 先月は通ったのに、なぜ今月は落ちるのか | 同じ像、同じルールの版、同じ人間の判断なら、時が経っても同じ判定になる。判定が変わるときは、ルールか過去の判断のどちらが変わったかを示す |
七つ目の「同じ判断は同じ判定」は、実際に使い始めると最初に問われる原則です。審査は一回で終わりません。同じ薬の資材が改訂され、別の薬の資材が似た作りで作られ、担当者が替わります。そのたびに判定が揺れると、AI は探す時間を減らしても、信じる理由を増やしません。そこで、人間の判定を「過去の判断のノート」に残します。似た像が出たときは、そのノートを指摘に添えます。
06判断は三段で行う。AI は部品、判定の言葉は憲法
大事な判定は「60 人の仮想の審査員に議論と投票をさせる」工程にかけます。ただし、呼ぶかどうかを任意にすると、呼ばれなかった判定には議論の記録が残りません。だから判断の段を三つに固定し、どの指摘がどの段まで行くかを規則で決めます。
もう一つ、AI の入れ替えについて決めておきます。AI の製品は、数か月ごとに新しいものに替わります。替えたとき、審査は同じ審査でしょうか。答えはこうです。判定に使う言葉と、指摘の形と、検査の関門は憲法である。AI は部品である。 判定の言葉は「最も重い」から「問題なし」までの五段階に固定し、AI が何を言おうと、この外の判定は存在しません。AI を替えるときは、答えの分かっている資材の束（正解つきの試験問題）で、前と同じ像と差が出ることを確かめてから使います。
07考え方を、破れない仕組みにする ── 八つの関門
考え方を書き並べるだけなら誰にでもできます。大事なのは、考え方が実行のときに破られたら、それを止める力があるかどうかです。関門は八つあります。関門とは、条件を満たさないと先へ進めない検査のことです。
- 入り口の関門 ── 資材と基準の書類がそろわなければ始めない。足りないものは「人間に確認」として最初の指摘にする。黙って進まない。
- 根拠の関門 ── ルールの原文と、どの像のどの差か、が付いていない指摘は、作られた瞬間に捨てられる。
- 消すときの関門 ── 指摘を消すときは、理由と記録なしには消せない。
- もれの関門 ── 四つの読み方すべてで像を作り、承認事実の全項目と照らしたことを、毎回確かめる。
- 再現の関門 ── プログラムの検査は、同じ入力なら必ず同じ答えになることを、毎回確かめる。
- 独立の関門 ── AI への質問は三回別々に行い、一回でも「問題あり」なら採用する。社会の目の顔ぶれは版で管理する。
- 続ける関門 ── ルールが改定されたら検査項目を更新し、試験問題で確かめ、すでに通した資材を見直す。
- 追いかける関門 ── 人間の最終判定が戻らない審査は、終わったことにしない。戻った判定との差を数え、週ごとの見逃しの割合が決めた線を割れば、本稼働を止める。
考え方・仕組み・検査が一対一で対応する。これがこの設計の背骨です。「像」は、像を作る部品と差を取る部品になります。「数える」は、見逃しの台帳と八つ目の関門になります。「同じ判定」は、過去の判断のノートと入れ替え時の試験になります。どの原則がどの部品になり、審査の一回でいつ働くのかは、続く二本で述べます。結論は短く言えます。この仕組みは、承認事実の外に出ようとする像を止めるために作られ、自分が何を見逃したかを数えるように作られています。