Anthropic「自社採点は不可」、創薬AI提携も発表── AI企業の安全方針と製薬の検証義務は別の体系であり、検証責任は使う側が負い続ける

2026年9月16日、Anthropicの政策責任者Sarah Heckが「AI企業はhonor codeでは運用できない」と述べ、同日にAnthropicが欧州の大手製薬企業との創薬AI提携を発表した。「自分で採点してはいけない」と認めたAI企業の製品を、製薬はどう検証すればよいか。AI企業の安全方針と製薬の法的検証義務は別の体系であり、検証工程を既存の品質体系に組み込む必要がある。

01Anthropicは規制の必要性を訴えた同日に、製薬へのAI提供を始めた

Sarah Heckは「We can't be checking our own homework, and that's very clear」と述べた。AI企業の自主規制だけでは安全性を担保できないという、自社の限界の表明だ。

同じ日に、Anthropicは欧州の大手製薬企業との創薬AI提携を発表した。Claudeのモデルと研究用のワークベンチを使い、候補化合物の特定や生物学的推論を支援するという内容だ。規制の必要性を訴えるAI企業が、規制の整備がまだ追いついていない創薬領域に参入した。この同時性が構図の核心にある。

02「自分の宿題を自分で採点できない」と認めたAI企業の出力が、創薬の判断材料になる

「自分の宿題を自分で採点してはいけない」という発言は、AIの出力を検証する責任を開発企業だけに置くことの限界を認めたものだ。AI企業自身が、自社の検証能力に上限があると言っている。

その同じAIが、創薬工程の判断材料を生成する。候補化合物の選定で使われる生物学的推論がAIによって出力されるとき、その推論の正しさを誰が確かめるのか。AI企業が認めた限界は、利用する側の検証責任をそのまま残す。

03創薬段階のAIの誤りは、市販後の資材の根拠データにまで影響しうる

AIが創薬段階で出力した推論の誤りは、研究段階で閉じるとは限らない。候補化合物の選定が偏れば、臨床試験のデザインに影響し、承認時の添付文書の記載内容を変え、市販後の宣伝資材で使われる根拠データにまで到達しうる。

創薬と資材審査は別の工程に見えるが、データの流れは一方向につながっている。上流でAIが関与し、その関与の痕跡が追えなければ、下流の資材審査で根拠の正当性を確かめる手段が失われる。

04AI企業の安全方針と製薬の法的検証義務は、根拠法も監督機関も異なる

AI企業が行う整合性テスト、レッドチーム評価、インシデント開示は、あくまで自社の安全方針に基づく自主的な取り組みだ。製薬企業が薬事法令で負う検証義務、GxP準拠の管理体制、添付文書の正確性の担保とは、根拠法も監督機関も違う。一方が他方を代替することはない。

05資材審査の出典確認工程を拡張すれば、AI出力の検証は既存の仕組みに収まる

AIが出典の生成や数値の要約に関与するとき、資材審査ですでに行われている出典確認の工程を拡張すればよい。新しい仕組みを作るのではなく、既存の工程に「AI出力と元データの照合」というステップを加える。確認すべき対象が増えるだけで、やり方は変わらない。

06ベンダーが安全性を発信するほど、利用企業は自社の検証を省きやすくなる

AI企業が安全性の取り組みを積極的に発信するほど、利用する側は「対策はすでに取られている」と受け取りやすい。ベンダーの安全性発信が、利用企業の自社検証を省略する理由として機能してしまう構造がある。

責任は開発側・提供側・利用側の三者に分散する。開発側はモデルの安全性に責任を負い、提供側はAPIの運用に責任を負い、利用側は出力の正しさに責任を負う。ところが三者のいずれも「他の二者がやっている」と考えると、どこにも十分な検証が残らない。

07ベンダー評価・出力照合・記録保持の3つを既存の品質体系に組み込む

この3つは、製薬がすでに持っている品質体系の延長線上にある。ベンダー管理はサプライヤー評価の一部として、出力照合は出典確認の拡張として、記録保持は既存の文書管理の中で実施できる。AIの導入にあたって新しい体系を立ち上げる必要はなく、既存の仕組みにAI固有のステップを加えれば足りる。

安全性の限界を認めるAI企業の製品であっても、製薬が負う検証義務は製薬自身のものだ。信頼すべきはベンダーの方針ではなく、自社の検証工程にAI出力の照合が組み込まれているかどうかだ。