米ユタ州、医療AIの評価者に6者 任せない判断は協定ごとに── 評価者は開発者の主張を確かめる役で、AIに任せない判断は州が協定ごとに決め、一般の規則はまだ無い

2026年10月5日、米ユタ州のAI政策室は医療AIの試験枠を広げ、外部の評価者6者を置いた。では、外部の評価者がいれば、AIに任せてはならない判断も決まるのか。評価者が確かめるのは、AIが開発者の主張どおりに動くかどうかだ。AIに禁じる判断は州が協定ごとに書いており、一般の規則はまだ無い。

01ユタ州の評価者は開発者の主張を確かめ、AIに禁じる判断は協定に書かれる

ユタ州が置いた外部の評価者6者は、AIが開発者の言うとおりに動くかを調べる。6者には、医療AIの基準づくりを進める団体 Coalition for Health AI が入った。Stanford 大学の臨床研究センターも、評価者6者に入った。

評価者の側には、AIに何を禁じるかを決める仕事が無い。処方の更新を扱う試験では、AIに新しい処方を書かせないと決めてある。用量の変更も禁じている。この決まりを書いたのは、州と開発会社が結んだ協定である。

評価と禁止事項は、別々の文書に載っている。紙が二枚あるということだ。AIを仕事に入れる人は、二つの文書を探すことになる。一つは評価の報告で、もう一つはAIに禁じることを書いた文書だ。評価の報告と禁止事項の文書は、ユタ州の発表でも別々に読む必要がある。

02州との協定は、罰金を軽くするなどの特例を最長12か月認める

ユタ州と開発会社が結ぶ協定は、2024年の州法 SB 149 に基づく。この州法はユタ州のAI政策法と呼ばれ、AI政策室を置いた。同じ州法は「学習ラボ」も作った。学習ラボは、AIの試験で分かったことを州の規制に生かす仕組みだ。

ユタ州の法律は、AIの試験で罰金などを緩めることを「規制の緩和」と呼ぶ。規制の緩和には、試験に参加している間の罰金を軽くすることが含まれる。期限もある。最初の協定は、12か月を超えて続けられない。

ユタ州には、罰金を軽くするだけでなく、処分そのものを止めた協定もある。1月に医療AIの会社 Doctronic は、処方の更新にAIを使う協定を州と結んだ。法律事務所の Polsinelli がこの協定を分析した。分析によると、Doctronic が条件を守る間は、違法な行為があっても州は処分しない。

医療AIの試験はいま、外部の評価者が確かめ始めた段階にある。試験の結果をもとに州が規則を書く段階には、まだ届いていない。

03ユタ州は薬の更新処方、ニキビ、産後の理学療法でAIを試す

ユタ州は今回、三つの診療でAIを試す。この試験でも、州は罰金や処分を緩める協定を結んだ。三つの試験を表に並べる。

AIに禁じる行為まで報道が伝えたのは、August AI だけだった。August AI は、処方の更新を受け持つAIを作っている。地元局の FOX 13 によると、このAIは新しい処方を書かない。薬の量を変えず、別の薬に置き換えることもしない。

AI Weekly によると、ニキビを扱う Nolla Health では、初めのうち臨床医がAIの判断を見直す。ただ、Nolla Health のAIが何を禁じられているかは、報道に出ていない。

製薬に関わるのは、August AI の試験だ。この試験では、AIが薬の更新処方を受け持つ。報道から言える製薬との接点は、この一つしかない。

04病院は、2035年に医療の担い手が最大4割減ると見込んでいる

ユタ州と病院は、10月5日の発表で、医療AIの試験を急ぐ理由を語った。下に、話した人ごとに理由を並べる。

医療提供者が最大40%減るという数字は、病院グループ Intermountain Health の見込みだ。州が出した統計ではない。それでも、医師や療法士が足りなくなるという見方は、州の長官も共有している。

州商務局の長官 Busse は、うまくいけば受診しやすくなり、費用も下がると述べた。州は、医師が減っても患者が診察を受けられるようにしたい。

AI政策室の Boyd室長がニキビを選んだのは、患者が多く、危険が比較的小さいからだった。私の読みでは、危険の小さい病気から始めれば、AIが誤ったときの害も小さく抑えられる。ニキビを低リスクと決めた基準は、どの報道にも書かれていない。

05外部の評価者6者は、開発者の説明とAIの判断の記録を調べる

危険の小さい病気で始めた試験は、外部の6者が確かめる。AI Weekly によると、評価者の仕事は三つに分かれる。

一つ目に、評価者は開発者が出した技術の説明を検証する。二つ目に、AIが下した判断の記録を監査する。三つ目に、評価者は医学の基準に照らしてAIを評価する。

AI政策室の Boyd室長は、AI開発者の主張はすべて独立に確かめられると述べた。Vega Health は評価者の一つだ。Vega Health の代表 Sendak は、製品が州の求める証拠の水準に届くかを試すと述べた。

どの会社を試験に入れるかは、州が決める。医師の側も関わり方を変えた。ユタ州の医師免許委員会は、1月に始まった処方更新の試験を批判していた。州が委員会に意見を聞かずに試験を始めたことが、批判の理由だった。

ユタ州の医師免許委員会はいま作業部会を置き、医療AIの試験の審査を手伝っている。委員の Hamilton 医師は、作業部会ができてもAIの試験をまとめて認めはしないと述べた。

外部の評価者が行うのは、AIが主張どおりに動くかの検査だ。AIに何を禁じるかを書くのは、州と医師たちだ。

06評価の報告、AIの禁止事項、誤りの処分は別々の文書にある

外部の評価者が調べた後も、AIを入れる人には分からない点が三つ残る。三つの点は、どれもAIの評価の報告には書かれていない。

外部の評価を通っても、AIに任せてよい範囲は分からない

外部の評価者が確かめるのは、開発者の主張が正しいかどうかである。評価者の仕事は、説明の検証と記録の監査と医学の基準での評価だった。AIにどこまで任せるかを決める仕事は、評価者の仕事に入っていない。

評価済みという報告を読んでも、AIに任せてよい範囲は書かれていない。AIを入れる人は、AIに任せてよい範囲を評価の報告以外の文書で探す。

AIに禁じる判断は、会社ごとの協定に書かれる

州商務局の Busse長官は、AIにどこまで任せるかを問われて答えた。「AIの能力は速く変わっていて、その答えはまだ分からないと思う」。Busse長官は、AIを使う場面のどこかに必ず人を置きたいとも述べた。

新しい処方をAIに書かせない決まりも、August AI の協定の中にある。医療AIの新しい試験が始まるたびに、州はAIの禁止事項を新しく書く。

試験の間にAIが誤っても、州が会社を処分しないことがある

試験の間は罰金を軽くできると、ユタ州の州法は定めている。法律事務所の分析では、医療AIの Doctronic は条件を守れば州の処分を受けない。

試験の途中でAIが誤った判断をしても、州が会社を処分しない場合がある。AIが誤ったときにどうなるかは、協定の条項に書かれている。AIの評価の報告には、誤りへの処分は書かれていない。

評価の報告を読んでも、AIに任せる範囲や禁止事項は分からない。導入する人は、協定と州法の条項を読む必要がある。

07州の規則ができるかどうかは、12か月の試験が終わるまで分からない

いま医療AIの禁止事項は、会社ごとの協定に一つずつ書かれている。ユタ州が禁止事項を州の規則にまとめるかどうかは、まだ決まっていない。

試験の結果は、毎月と毎年の報告で州へ届く。試験に加わる会社は、毎月の数値を州に報告する。AI政策室は、毎年11月30日までに州議会の委員会へ報告する。

州の議員たちは、試験の結果を今後の法律づくりに使うと述べた。挙がった項目は、責任の所在や患者のプライバシー、免許を持つ専門職の役割などだった。州議会上院の院内総務 Cullimore は、ユタ州のやり方を連邦でも使うことに関心を示した。連邦での計画は、まだ何も決まっていない。

報道を見る限り、州の規則に禁止事項を書くと約束した人はまだいない。州商務局の Busse長官も、AIに任せる範囲はまだ分からないと述べている。12か月の協定の後に州が規則を書くかどうかは、まだ誰も約束していない。

州の規則ができる前でも、AIを仕事に入れるかどうかは決めなければならない。下の図は、ユタ州の例から考えた、AIを仕事に入れる前に読む文書の順番だ。

AIが評価を受けたかどうかは、最初に見る点にすぎない。AIの禁止事項が書かれていなければ、私はAIの導入をそこで止める。私はAIの開発会社に禁止事項を書いてもらい、それから次の文書へ進む。

外部の評価者は医療AIを確かめる。しかし、AIに任せてはならない判断を決めるのは評価者ではなく州だ。AIに禁じることは、会社ごとの協定に書かれている。

AIを仕事に入れる人は、AIが評価を受けたかを確かめる。それとは別に、AIに禁じることを書いた文書を探す。AIが「評価済み」と聞いたら、私はAIに禁じることを書いた紙を探す。