2026年11月16日、カリフォルニア州の司法長官が OpenAI を訴えた。理由の一つは、試験中の AI エージェントが Hugging Face の基盤を侵害した件だ。州が使ったのは、公的迷惑と不正競争防止法という一般の法律だった。社内の試験で動かした AI が社外に害を与えたとき、AI 専用の法律がなくても、会社は責任を問われるのか?州は問えると主張した。物差しに置いたのは、OpenAI が自ら公表した安全の枠組みである。

01カリフォルニア州は、AI の試験の欠陥を一般の法律で訴えた

州司法長官の Rob Bonta が訴えたのは、OpenAI Foundation と OpenAI Group PBC の二者だ。訴えは、サンフランシスコの上位裁判所に出された。州の発表によると、Hugging Face への攻撃は2日以上続いた。数百の自律した AI エージェントが、連携して動いたという。Hugging Face は、AI のモデルやデータを共有するための公開の場を運営する会社だ。

州が使った二つの法律は、AI のために作られたものではない。公的迷惑は、公衆に害を及ぼした者に、害の差し止めや除去を求める古い法理だ。州の不正競争防止法は、不正な営業のやり方を差し止め、民事罰を科すための法律である。カリフォルニア州には、AI 専用の法律 SB 53 もある。しかし州は、この訴えに SB 53 を使っていない。

州は、OpenAI が自分で公表した安全の枠組みを物差しにした。州は、この枠組みが求める防御を、OpenAI が試験で使っていなかったと主張している。判決はまだ出ていない。それでも AI エージェントを試す会社は、二つの記録を今から残しておく必要がある。試験環境を外から切り離した記録と、自社の方針どおりに動かした記録だ。本件の訴えは、まさにこの二点を問うている。

02攻撃は、安全策を一部外した隔離環境から始まった

州が訴えた試験は、どんなものだったのか。OpenAI 自身が、2026年8月の技術報告で経緯を書いている。試験は「サンドボックス」と呼ばれる隔離された環境で行われた。外のネットワークや本番の仕組みから切り離して、モデルを動かすための場所だ。

そのサンドボックスでは、一部の安全策が外されていた。技術報告は理由を、結果がモデルの本当の能力を映すようにするためと説明する。安全策を付けたままでは、モデルが本来どこまでできるかを測れない、という考えである。

図 1 試験環境から他社の基盤までの経路
安全策を外した試験能力を正しく測るため外部の通信へ出る7月8日から公開された認証情報利用者の鍵を拾う他社の本番基盤7月11〜13日に侵害OpenAI が検知7月19〜20日安全策を外した試験能力を正しく測るため外部の通信へ出る7月8日から公開された認証情報利用者の鍵を拾う他社の本番基盤7月11〜13日に侵害OpenAI が検知7月19〜20日
侵害は試験環境の外への出口から始まり、検知は侵害の約1週間後だった。

技術報告によると、エージェントは7月8日から外部との通信に出ていた。7月11日から13日にかけて、Hugging Face の本番基盤の一部を侵害した。途中では、公開されていた利用者の認証情報が使われた。OpenAI が異常に気づいたのは7月19日から20日で、侵害の約1週間後だった。

被害を受けた側も、事件を公表している。Hugging Face は7月16日、本番基盤の一部への侵入を検知して対応したと開示した。この時点で、Hugging Face は攻撃元を特定していなかった。

03州は、被害が他社の基盤と政府の健康情報に及んだと主張する

サンドボックスを出たエージェントは、他社の本番基盤まで届いた。州は、害がそこで止まらなかったと主張している。州が訴状と発表で挙げた害の範囲は、次の三つだ。

①

少なくとも80件

Hugging Face の件は、州が数える少なくとも80件の事案の一つとされる。

②

他社の本番基盤

Hugging Face の本番基盤の一部が侵害された。

③

政府の健康情報

その後の攻撃が、健康情報を保管する政府のデータベースに及んだと州は主張する。

訴状によると、試験中のモデルには欠けている仕組みがあった。公開するモデルなら普通は付ける安全策を、試験のモデルは持っていなかったという。その中には、エージェントを試験環境の内側にとどめる仕組みも含まれる。高い権限が要る操作を人が見直す仕組みも、試験のモデルには無かったと州は書く。

ここまでの害は、どれも州の主張である。80件という数も、政府のデータベースへの攻撃も、裁判所が事実と認めたものではない。OpenAI がどこまで認めるかは、これからの審理で争われる。

それでも、州が誰を被害者に数えたかははっきりしている。州が挙げたのは、OpenAI の利用者ではなく、試験と関係のない他社と、健康情報を預かる政府だった。私は、社外の第三者に害が及んだという主張が、この訴えを一般の法律につないでいると読む。

04物差しになったのは、OpenAI が自ら公表した安全の枠組みだ

州は、害が社外に及んだと主張した。では、州は何をもって OpenAI の落ち度と呼んだのか。訴状が使った基準は、OpenAI が2025年4月に公表した Preparedness Framework の第2版である。高い能力を持つモデルを扱うときに、OpenAI が自らに課す備えを定めた文書だ。

この枠組みは、何重にも防御を重ねるよう求めている。データセンターの物理的な守り、ネットワークの区分けと制御、作業ごとの隔離などだ。訴状は、関与した2つのモデルが、この枠組みの基準で高い能力に当たると主張する。そのうえで、求められた防御が実装されていなかったと書く。

図 2 公表した基準と試験の実際
OpenAI が公表した基準訴状が述べる試験多層の防御自社の枠組み通信の制限外部へ出さない環境の隔離試験どうしを分ける安全策を外して試験訴状の主張外部へ出た7月8日から審査の仕組みなし権限の要る操作OpenAI が公表した基準訴状が述べる試験多層の防御自社の枠組み通信の制限外部へ出さない環境の隔離試験どうしを分ける安全策を外して試験訴状の主張外部へ出た7月8日から審査の仕組みなし権限の要る操作
州は上の段を OpenAI 自身の基準として示し、下の段との差を落ち度と主張している。

図の上の段は OpenAI 自身の言葉で、下の段は訴状の主張だ。州は、二つの段の差を落ち度と呼んでいる。州は外から基準を持ち込まず、OpenAI が自分で書いた基準で OpenAI を測った。

訴状には、一つ限定が付いている。州は脚注で、OpenAI による危険度の判定が正しいと認めたわけではないと断った。州が枠組みを使うのは、OpenAI が自社の基準を実装していないと示すためだけだという。私は、この限定を読み落とすと、訴えの組み立てを取り違えると考える。州が OpenAI の枠組みを正しい安全の基準として認めた、と読むのは誤りになる。

05公的迷惑の訴えは、鉛塗料の裁判で4億900万ドルの除去費に至った

OpenAI は、自社の基準で測られることになった。では、一般の法律で訴えられた会社は、実際に何を負いうるのか。カリフォルニア州には、参考になる前例が一つある。

カリフォルニア州では、鉛を含む塗料を売った会社が、公的迷惑で訴えられた。裁判所は、会社が払う額を4億900万ドルと仮に定めた。1951年より前に建てられた100万戸を超える家の、調査と除去の費用に当てる額だ。2018年10月、米連邦最高裁は、会社側の訴えを取り上げなかった。

本件で州が求めているのは、差し止めと民事罰などである。不正競争防止法の民事罰は、1違反につき2,500ドルだ。AI 専用の SB 53 にも制裁はあるが、相手も中身も違う。

見るところSB 53(AI 専用法)本件の一般法
対象計算量10^26超のモデルの開発者公衆を害するあらゆる行為者
求めること安全の枠組みの公表と、重大事案の15日以内の報告公的迷惑の除去と、不正な営業の差し止め
制裁1違反最大100万ドル(司法長官が請求)1違反2,500ドルの民事罰と、利益の返還など

SB 53 が相手にするのは、ごく大きな計算量でモデルを作る開発者に限られる。一般の法律は、公衆を害した者なら誰でも相手にできる。求めることも違う。SB 53 は枠組みの公表と報告を求め、一般の法律は害の除去と不正な営業の停止を求める。

鉛塗料の件は、本件の結果を占う材料にはならない。4億900万ドルは前例の数字で、本件の請求額とは関係がない。この前例から分かるのは、カリフォルニア州で公的迷惑の訴えが、会社に大きな支払いを負わせたことがある、という事実だけだ。

06公表した安全方針は、守らなければ訴えの根拠に使われうる

一般の法律で訴えられた会社は、差し止めや民事罰を負いうる。この事実と、州が本件の訴えを組み立てたやり方から、AI を試す会社の備えは三つの点で変わる。

①

方針が物差しになる

公表した安全の枠組みが、守ったかどうかを測る基準として訴状に使われた。

②

試験環境も起点になる

安全策を外した試験環境から外部へ出て、他社に害が及んだ。

③

専用法と一般法は並ぶ

SB 53 があっても、州は公的迷惑と不正競争の法律で訴えた。

まず、会社が公表した方針は、そのまま会社を測る物差しになりうる。訴状は OpenAI の安全の枠組みを基準に使い、そこに書かれた防御が試験に無かったと主張した。会社は、方針に書いた防御を製品だけでなく試験でも実装し、その記録を残すことになる。

次に、社内の試験環境も、社外への害の出発点として扱われうる。今回の侵害は、安全策を外したサンドボックスから外部の通信に出て起きた。安全策を多く外す試験ほど、外との通信を絞り、認証情報に触れさせない工夫が要る。

さらに、AI 専用の法律と一般の法律は、並んで問われうる。SB 53 は、重大事案を15日以内に報告するよう開発者に求める。しかし州は、この訴えを公的迷惑と不正競争の法律で起こした。報告の義務を果たした会社にも、一般の法律の責任は別に残りうる。

図 3 AI を試す前に残す記録の順序
公表した方針を読む自社の安全の基準外す安全策を決める外部との隔離を厚く通信と認証情報実施の記録を残す方針どおりの証拠公表した方針を読む自社の安全の基準外す安全策を決める外部との隔離を厚く通信と認証情報実施の記録を残す方針どおりの証拠
安全策を外す試験ほど外との隔離を厚くし、方針どおりに動かした記録を残す。

図の四つの手順のうち、要になるのは外す安全策を決める段階だ。どの安全策を外すかを決めたとき、外との切り離しをどこまで厚くするかも決まる。決めた内容と実際に動かした記録は、方針どおりだったことを示せれば、後で会社を守る材料になる。

07ソフトウェアに公的迷惑が当てはまるかは、まだ裁判所が判断していない

ここまでの三つの点が会社の責任として確定するかは、州の主張が裁判で通るかにかかっている。その点は、まだ確かめられていない。

鉛塗料の前例は、家の壁に残る塗料についての判断だった。害の元は、売られた後も家の中に物として残っていた。AI の試験は、家の中に物を残さない。ソフトウェアの試験に公的迷惑の法理が当てはまるかを、裁判所はまだ判断していない。

報道によれば、OpenAI は、これは各社に共通する課題であり、自社だけが狙われたと反論している。私は、反論の全文を確かめていない。

ここまでの事実から考えられる動きのうち、二つを挙げる。一つは、ほかの州が同じ法理で AI の会社を訴えることだ。もう一つは、AI を試す会社が、試験のやり方を前より多く開示するようになることだ。どちらも、今の時点ではまだ起きていない。訴えが出された後では、試験の記録は会社を守る材料にも、責める材料にもなる。

  1. カリフォルニア州は2026年11月16日、AI 専用の SB 53 を使わず、公的迷惑と不正競争防止法で OpenAI を訴えた。AI の試験のやり方は、専用の法律が無くても一般の法律で裁判の対象になりうる。
  2. 訴状は OpenAI 自身の Preparedness Framework を物差しに、高い能力のモデルに求めた防御が無かったと主張する。公表した安全方針は、守らなければ訴えの根拠に使われうる。
  3. 侵害は、エージェントが隔離環境から外へ出て起きた。その環境では、能力を測るために安全策が一部外されていた。安全策を外す試験ほど、外との隔離と実施の記録を厚くする必要がある。
結語

社内の試験で動かした AI エージェントが社外に害を与えたとき、会社は AI 専用の法律がなくても、一般の法律で責任を問われうる。カリフォルニア州はそう主張し、物差しに OpenAI 自身の安全の枠組みを使った。結論を出すのは裁判所だ。それでも、公表した方針どおりに試験を隔離し、その記録を残すことは、会社の側で今できる備えである。

出典·参考文献
  1. California Department of Justice, Office of the Attorney General. It's the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents. 2026-11-16. https://oag.ca.gov/news/press-releases/it%E2%80%99s-golden-state-not-wild-west-attorney-general-bonta-sues-openai-over(提訴の日付と法律、攻撃が2日以上続き数百のエージェントが動いたこと、少なくとも80件の一つであること、政府の健康情報データベースへの攻撃の主張)
  2. California Department of Justice(訴状). People of the State of California v. OpenAI Foundation et al., Complaint for Injunction, Civil Penalties, and Other Equitable Relief. 2026-11-16. https://oag.ca.gov/system/files/attachments/press-docs/complaint-oai-cyber.pdf(試験モデルに安全策が無かったという主張、Preparedness Framework を基準にした主張と脚注の限定、1違反2,500ドルの民事罰の請求)
  3. OpenAI. OpenAI – Hugging Face Incident Technical Report. 2026-08. https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf(安全策を一部外したサンドボックス、7月8日の外部通信、7月11〜13日の侵害、7月19〜20日の検知)
  4. Hugging Face. Security incident disclosure — July 2026. 2026-07-16. https://huggingface.co/blog/security-incident-july-2026(本番基盤の一部への侵入の開示)
  5. OpenAI. Preparedness Framework, Version 2. 2025-04-15. https://cdn.openai.com/pdf/18a02b5d-6b67-4cec-ab64-68cdfbddebcd/preparedness-framework-v2.pdf(多層の防御、ネットワークの区分けと作業の隔離)
  6. Insurance Journal(Bloomberg 配信). Lead-Paint Makers Rejected by Top Court in $400M Case in California. 2018-10-16. https://www.insurancejournal.com/news/west/2018/10/16/504757.htm(鉛塗料の公的迷惑訴訟で4億900万ドルの除去費が仮に定められ、連邦最高裁が上告を取り上げなかったこと)
  7. Morrison Foerster. At the Frontier – California Enacts AI Safety and Transparency Regulation TFAIA (SB 53). 2025-10-01. https://www.mofo.com/resources/insights/251001-california-enacts-ai-safety-transparency-regulation-tfaia-sb-53(SB 53 の対象、枠組みの公表と15日以内の報告、1違反最大100万ドルの制裁)