欧州の附属書22案、AIの人による監督に何を求めるか

欧州委員会と医薬品査察協定・査察協力機構（PIC/S）は、GMP（医薬品の製造管理・品質管理）に関する附属書22案「人工知能」について、2025年7月7日から10月7日まで意見を募った。記事の筆者は、AIを使った逸脱分類ツールでの自らの経験を手がかりに、この案が「人の確認」を単なる安全策ではなく、検証済みの工程の一部として扱っている点を読み解いている。

どんな案で、いまどの段階か

附属書22案が対象とするのは、患者の安全、製品品質、データの信頼性に直接かかわる「重要なGMP用途」のAIモデルである。出力が決まった形で再現される静的なモデルが前提で、動的・確率的なモデル、生成AI、大規模言語モデルは、こうした重要用途では使うべきでないとされている。

EMAは2026年2月に、約1,300件の意見が寄せられたと述べ、最終文書は年内に出る見通しだとした。ただし筆者によれば、記事の公表時点でも案のままで、文言は変わる可能性がある。

筆者が見た現場の例

筆者が助言した欧州の製薬会社は、GMPの逸脱を分類するAIツールを作っていた。ツールは事象の記述を読み、投稿者に質問をし、リスク分類と是正・予防措置（CAPA）の内容案を示す。分類は品質部門が一件ずつ承認しており、どれも妥当に見えた。

ところが拠点別に数か月分を並べると、ある拠点の逸脱が常に「中」か「低」になっていた。原因は、モデルが無菌製造拠点のデータで学習されており、この拠点は包装を担っていたことだった。「無菌」のような見慣れた語が見つからないと、低く採点していたのである。会社はその後、未学習の拠点でツールを使う場合は、正式な変更管理と事前の評価を必要とするようにした。

一件ずつ確認する人には見えず、数百件を並べて初めて現れる誤りがある。筆者は、案が重視する「単品の確認」と「工程全体の管理」の違いを、この例で示している。

人の確認は何と引き換えになるのか

筆者が注目するのは3.3項と10.5項である。モデルが人の判断への入力にとどまり、モデル自体の試験の労力を減らす場合には、使用目的の記述に操作者の責任を含め、その訓練と一貫した働きぶりを、ほかの手作業と同じように監視するよう求めている。記録も残し、重要度や試験の程度によっては、すべての出力を手順に従って確認することもあり得るとされる。

つまり、モデルの試験を軽くする代わりに、人が記録され監視される工程の一部になるという取引だと筆者は読む。ソフトの試験には慣れていても、人の確認が一貫していると示すことに慣れた組織は少ない、というのが筆者の実感である。

案は他にも人に役割を与えている。受入基準は工程の専門家が承認し、置き換える現行工程の性能を下回ってはならない。つまり今の人手作業の実績を測っておく必要がある。判断の根拠となった特徴量の確認や、確信度の低い結果を「未決」として人に回す仕組みも挙げられている。

残る問いと規制当局の関心

筆者は、案が答えを出していない問いを三つ挙げる。試験をどこまで減らせば、人の確認が実質的な主役になってしまうのか。操作者の「一貫した働き」をどう測るのか。機械の自信ありげな答えを受け入れやすい自動化バイアスをどう管理するのか。案にはこの語は出てこない。

筆者によれば、2026年6月のEMAと産業界のワークショップ報告（10月初旬公表）でも、規制当局が同様の疑問を出していた。報告は、リスクに応じた記録つきの意味ある監督を求める声を記し、監督は不十分な検証の埋め合わせにはならないとしている。ただしこれは議論の記録であり、規制としての拘束力はない。最終版がこれらにどう答えるかは、現時点では分からない。

人の確認を「工程の一部」と示すには、何を測り、何を記録すべきか。