医療AIの誤りは誰の責任か、ピッツバーグの専門家が見解

臨床の場でAIが誤った判断や情報を出したとき、責任を負うのは医師なのか、医療機関なのか、開発企業なのか。米国医師会（AMA）は10月29日、「Liability for clinical AI」と題した5ページの文書を公表し、この問いに対する考え方の枠組みを示した。ピッツバーグ大学の研究者2人が、地元紙TribLiveの取材にその内容を読み解いている。

AMAは何を公表したのか

文書は、臨床AIをめぐる責任の所在について明確な指針が必要だと訴える。そのうえで、臨床の流れの中で関係者それぞれが担う役割を整理し、役割ごとに監督のあり方を割り当てる枠組みを提案している。

関係者として挙げられたのは、医師、開発者、そしてAIを現場に導入する「デプロイヤー」の三者だ。AMAの既存の方針にある、害を「回避または軽減できる最も適した立場の人」に責任を合わせるという考え方が土台になっている。

三者の責任はどう分けられるのか

文書の整理では、医師は自分が実質的に行使できる臨床判断に責任を持つ。開発者は自らが設計し作ったものに、導入側はAIをどこで、どのように使うかに責任を持つ。

監督の方法としては、医師による確認、医師がAIの出力に合理的に期待できる水準、開発者が責任を臨床医へ転嫁できる範囲の制限、患者が救済を受けられる明確な道筋などが挙がっている。文書は、AIが重い役割を担うほど、責任のあり方も臨床上の権限に合わせて変わるべきだと述べる。

専門家は何に注目したのか

ピッツバーグ大学の画像AIの研究者ショウ・ウー氏は、文書の狙いの多くは、AIによる害の責任は主に医師にあるという見方を改めることだと語る。開発側は「医師が最終判断をする」ことを理由に責任を医師へ寄せがちだが、それをそのまま移すべきではないという立場だ。

ウー氏は、文書が「意味のある医師の監督」という言葉を設けた点も挙げた。医師が出力を評価し誤りに気づくには、十分な情報、訓練、時間、権限が要るという考え方である。同大学のヤンシャン・ワン氏は、AIが訓練データに基づいて存在しない診断や情報をつくり出すことがあり、医師がそれを見抜けるとは限らないと指摘した。両氏とも、三者が協力して訓練などを確実に行うことが害の予防に必要だとみている。

現場ではどんな問題が起きているのか

ワン氏によれば、AIは臨床の過程のほぼすべての段階に入り込んでいる。診察中の音声を記録するアンビエント技術もその一つで、患者にリスクをもたらしうる例として挙げられた。

記事によると、先週にはピッツバーグ周辺の女性が、医師との会話が録音されることを十分に知らされなかったとして、アレゲニー・ヘルス・ネットワークとハイマークを提訴した。ウー氏は、医学界の団体によるAIの指針は出ているが、法律はまだ整っていないと述べている。今回の文書は法ではなく提言であり、今後どう制度に反映されるかは記事からは分からない。

AIが関わる医療の誤りで、最終判断をした医師にどこまで責任を求めるのが妥当だろうか。