フロリダ州、OpenAIに外部承認なき開発の停止を求めた── 作る前に外部の承認を通すという要求は新しい発想ではなく、医薬品の資材では手続として動いている。

2026年9月28日、フロリダ州司法長官のJames Uthmeierは、独立した第三者の安全承認を受けないままOpenAIが新しいAIモデルを開発することを禁じるよう、州の巡回裁判所に申し立てた。作る前に外部の承認を通すという取り決めは、そもそも成り立つのか。成り立つ。医療用医薬品の資材では、使う前に独立した監督部門の審査と承認を通す手続が2018年から動いている。

01州の請求は開発そのものに触れ、AIの事前承認を求めている

この申立ては、表示の仕方や年齢の線引きだけを問題にしていない。州が求めたのは、独立した第三者の安全承認を得ないまま新しいモデルを開発しない、という条件である。求められた条件は、売り方ではなく作る段にかかっている。

売り方と作り方では、規制が働く時点が違う。取引慣行を取り締まる法律は、ふつう、市場に出た後の行為を裁く。開発の段に条件を付けるのは、責任を事後の賠償から事前の承認へ移すということだ。

まだ命令は出ていない。これは求められている救済であって、裁判所の判断ではない。それでも、請求の形そのものが一つの設計案を示している。作る前に外から承認を通す、という設計案である。そしてこの設計案は、日本の製薬の実務では2018年から動いている。

02求められたのは第三者の安全承認と、州内の未成年の利用停止だ

州が開発の段に条件を求めたことを踏まえて、申立てが並べた条件を数えてみる。報じられた限りでは五つある。独立した第三者の安全承認を経ない開発の禁止。州内の未成年へのChatGPTの提供の停止。13歳未満の個人情報を集めることの制限。人間の特性や感情、意識、独立した思考を備えていると示す提示の禁止。そして、利用を続けさせようとする機能の制限である。

申立てを行ったのは第10巡回区のハイランズ郡で、6月1日に提起された訴訟の一部として出された。最初の訴えは、子どもへの危害と欺瞞的な取引慣行を争点にしていた。

OpenAIは、ChatGPTが毎日数億人に正当な目的で使われている汎用の道具であり、有害な意図を検出する仕組みを継続して強化していると述べている。同社はまた、最も高性能なモデルの訓練を一時停止したとも説明した。ただし再開の時期は、自社が確信を得た時点だとしている。判断の位置は、会社の内側に置かれたままである。

03医薬品の資材は、使う前に独立した監督部門の審査と承認を通る

五つの条件のうち、開発の段に触れるのはこの一つだけで、残る四つは提供と表示の段にかかる。だから最も重いのは、開発の前に外部の承認を置くというものだ。作る前に外部が承認する手続は、日本の製薬会社で毎日動いている。医療用医薬品の販売情報提供活動のガイドラインは、資材等を使用される前に、あらかじめ販売情報提供活動監督部門の審査を受けることを求めている。審査に当たっては審査・監督委員会の助言を踏まえて承認を行う。

販売情報提供活動監督部門は、資材を作って使う営業の側から切り離されている。審査の作業そのものは外部へ委託できる。ただし承認の責任は委託先へ移らない。ガイドラインは、承認に関する責任を監督部門、ひいては経営陣が負うと書いている。

二つの制度は目的も相手も違う。州は消費者の保護を目的に裁判所へ申し立てており、ガイドラインは医療関係者への情報提供の適正さを保つために行政が示したものだ。重なるのは、判断が下る時点と、責任の固定先という二点だけである。

04事後の賠償では、作る前の判断を変えられない

資材は使われる前に承認を受ける。AIのモデルは、人に使われた後で責任を問われる。州の請求は、この後の側の限界に向けられている。

フロリダ州の取引慣行法は、不公正な競争方法と、良心に反する行為、そして不公正または欺瞞的な行為を違法とする。強い規定だが、違法かどうかが決まるのは行為の後である。子どもが害を受けた後に賠償を命じても、その子に起きたことは戻らない。

だから州は賠償ではなく、開発の段の条件を求めた。同じ理屈は、資材の世界では2018年に手続として決着している。誤った資材が医師の手に渡ってから回収しても、その資材を見て処方を決めた患者のところには戻れない。資材の審査が使用の前に置かれているのは、この点で理にかなう。

05ガイドラインは承認の責任を経営陣に置き、外部委託を審査に限った

事後の責任が作る前の判断に届かないのなら、事前の承認は具体的に何を決めているのか。ガイドラインが書き分けているのは、次の四つである。

四つに共通するのは、誰が何を負うかが役割で書かれていることだ。審査する人、承認する人、使う人、苦情を受ける人が分かれている。分かれているから、後から誰に尋ねればよいかが決まる。

州の申立てには、役割の書き分けがまだ無い。独立した第三者という語はあるが、その第三者を誰が選ぶのかは書かれていない。

06開発の停止、年齢の線引き、擬人化の禁止は、別の重さを持つ

資材の審査では、審査する人、承認する人、使う人が分かれていることで事前承認が動いている。同じ分かれ方を求められるかどうかで、州が一つの申立てにまとめた条件を測り直してみる。

開発への条件付けが最も重い。承認者が決まらなければ、命令が出ても実行できないからだ。誰が第三者を選ぶのか、その独立をどう確かめるのか、承認を拒まれたときに開発が止まるのか。三つとも未決のままでは、条件は文字のまま残る。

年齢の線引きは、これとは逆の性質を持つ。州内の未成年に提供していないかどうかは、外から確かめやすい。ただし確かめられるのは提供の有無だけで、モデルが何をするかには触れない。子どもを危険から遠ざけるが、危険そのものは残る。

擬人化の禁止は、既にある広告の規制に近い。人間の特性や感情、意識を備えていると示す提示を禁じるという要求は、製品の性質について誤った印象を与える表示を禁じる規制と同じ構えだ。医薬品の広告では、承認された効能効果の範囲を暗示的にも超えてはならないという線が引かれている。表示に線を引く手法は、規制として古くから使われてきた。

07命令が出れば、承認する第三者を誰が選ぶかが残る

開発に外部の承認を求める条件が、実際に命令になったとする。そこから先に何が決まっていないか。決まっていないのは三つある。加えて、審査の基準を誰がどう置くのかも示されていない。

資材の審査では、三つとも答えが書かれている。監督部門を置くのは製造販売業者で、その独立性は営業部門からの分離によって確かめられる。審査で適切と認められなければ担当者は使えない。責任は監督部門と経営陣にある。

なお、命令が出るかどうかは私には分からない。期日も、被告側の応答も、この記事を書いた時点では確かめられていない。書けるのは、求められた条件の中身と、その条件を動かすために何が決まっていないか、という二つだけである。

外部の承認を受けるまで作れない。この取り決めは成り立つ。日本の製薬会社では、資材の一枚が医師の前に出るまでに、作った当人ではない部門が読み、助言を受けて承認し、その責任を経営陣が引き受ける。八年動いている。

AIの開発に同じ形を持ち込むのが易しいとは言わない。資材は一枚ずつ数えられ、モデルの訓練は数えにくい。それでも、易しくないことと、発想として成り立たないことは別である。

フロリダ州の申立てに足りないのは、思いつきではない。承認者を誰が選ぶか、基準は何か、拒まれたらどうなるか、責任は誰の役職に載るか。この四つを書き込めるかどうかで、事前の承認は文字のままか、手続になるかが分かれる。