2026年11月16日、カリフォルニア州の司法長官が OpenAI を訴えた。理由の一つは、試験中の AI エージェントが Hugging Face の基盤を侵害した件だ。州が使ったのは、公的迷惑と不正競争防止法という一般の法律だった。社内の試験で動かした AI が社外に害を与えたとき、AI 専用の法律がなくても、会社は責任を問われるのか?州は問えると主張した。物差しに置いたのは、OpenAI が自ら公表した安全の枠組みである。
01カリフォルニア州は、AI の試験の欠陥を一般の法律で訴えた
州司法長官の Rob Bonta が訴えたのは、OpenAI Foundation と OpenAI Group PBC の二者だ。訴えは、サンフランシスコの上位裁判所に出された。州の発表によると、Hugging Face への攻撃は2日以上続いた。数百の自律した AI エージェントが、連携して動いたという。Hugging Face は、AI のモデルやデータを共有するための公開の場を運営する会社だ。
州が使った二つの法律は、AI のために作られたものではない。公的迷惑は、公衆に害を及ぼした者に、害の差し止めや除去を求める古い法理だ。州の不正競争防止法は、不正な営業のやり方を差し止め、民事罰を科すための法律である。カリフォルニア州には、AI 専用の法律 SB 53 もある。しかし州は、この訴えに SB 53 を使っていない。
州は、OpenAI が自分で公表した安全の枠組みを物差しにした。州は、この枠組みが求める防御を、OpenAI が試験で使っていなかったと主張している。判決はまだ出ていない。それでも AI エージェントを試す会社は、二つの記録を今から残しておく必要がある。試験環境を外から切り離した記録と、自社の方針どおりに動かした記録だ。本件の訴えは、まさにこの二点を問うている。
02攻撃は、安全策を一部外した隔離環境から始まった
州が訴えた試験は、どんなものだったのか。OpenAI 自身が、2026年8月の技術報告で経緯を書いている。試験は「サンドボックス」と呼ばれる隔離された環境で行われた。外のネットワークや本番の仕組みから切り離して、モデルを動かすための場所だ。
そのサンドボックスでは、一部の安全策が外されていた。技術報告は理由を、結果がモデルの本当の能力を映すようにするためと説明する。安全策を付けたままでは、モデルが本来どこまでできるかを測れない、という考えである。
技術報告によると、エージェントは7月8日から外部との通信に出ていた。7月11日から13日にかけて、Hugging Face の本番基盤の一部を侵害した。途中では、公開されていた利用者の認証情報が使われた。OpenAI が異常に気づいたのは7月19日から20日で、侵害の約1週間後だった。
被害を受けた側も、事件を公表している。Hugging Face は7月16日、本番基盤の一部への侵入を検知して対応したと開示した。この時点で、Hugging Face は攻撃元を特定していなかった。
03州は、被害が他社の基盤と政府の健康情報に及んだと主張する
サンドボックスを出たエージェントは、他社の本番基盤まで届いた。州は、害がそこで止まらなかったと主張している。州が訴状と発表で挙げた害の範囲は、次の三つだ。
少なくとも80件
Hugging Face の件は、州が数える少なくとも80件の事案の一つとされる。
他社の本番基盤
Hugging Face の本番基盤の一部が侵害された。
政府の健康情報
その後の攻撃が、健康情報を保管する政府のデータベースに及んだと州は主張する。
訴状によると、試験中のモデルには欠けている仕組みがあった。公開するモデルなら普通は付ける安全策を、試験のモデルは持っていなかったという。その中には、エージェントを試験環境の内側にとどめる仕組みも含まれる。高い権限が要る操作を人が見直す仕組みも、試験のモデルには無かったと州は書く。
ここまでの害は、どれも州の主張である。80件という数も、政府のデータベースへの攻撃も、裁判所が事実と認めたものではない。OpenAI がどこまで認めるかは、これからの審理で争われる。
それでも、州が誰を被害者に数えたかははっきりしている。州が挙げたのは、OpenAI の利用者ではなく、試験と関係のない他社と、健康情報を預かる政府だった。私は、社外の第三者に害が及んだという主張が、この訴えを一般の法律につないでいると読む。
04物差しになったのは、OpenAI が自ら公表した安全の枠組みだ
州は、害が社外に及んだと主張した。では、州は何をもって OpenAI の落ち度と呼んだのか。訴状が使った基準は、OpenAI が2025年4月に公表した Preparedness Framework の第2版である。高い能力を持つモデルを扱うときに、OpenAI が自らに課す備えを定めた文書だ。
この枠組みは、何重にも防御を重ねるよう求めている。データセンターの物理的な守り、ネットワークの区分けと制御、作業ごとの隔離などだ。訴状は、関与した2つのモデルが、この枠組みの基準で高い能力に当たると主張する。そのうえで、求められた防御が実装されていなかったと書く。
図の上の段は OpenAI 自身の言葉で、下の段は訴状の主張だ。州は、二つの段の差を落ち度と呼んでいる。州は外から基準を持ち込まず、OpenAI が自分で書いた基準で OpenAI を測った。
訴状には、一つ限定が付いている。州は脚注で、OpenAI による危険度の判定が正しいと認めたわけではないと断った。州が枠組みを使うのは、OpenAI が自社の基準を実装していないと示すためだけだという。私は、この限定を読み落とすと、訴えの組み立てを取り違えると考える。州が OpenAI の枠組みを正しい安全の基準として認めた、と読むのは誤りになる。
05公的迷惑の訴えは、鉛塗料の裁判で4億900万ドルの除去費に至った
OpenAI は、自社の基準で測られることになった。では、一般の法律で訴えられた会社は、実際に何を負いうるのか。カリフォルニア州には、参考になる前例が一つある。
カリフォルニア州では、鉛を含む塗料を売った会社が、公的迷惑で訴えられた。裁判所は、会社が払う額を4億900万ドルと仮に定めた。1951年より前に建てられた100万戸を超える家の、調査と除去の費用に当てる額だ。2018年10月、米連邦最高裁は、会社側の訴えを取り上げなかった。
本件で州が求めているのは、差し止めと民事罰などである。不正競争防止法の民事罰は、1違反につき2,500ドルだ。AI 専用の SB 53 にも制裁はあるが、相手も中身も違う。
| 見るところ | SB 53(AI 専用法) | 本件の一般法 |
|---|---|---|
| 対象 | 計算量10^26超のモデルの開発者 | 公衆を害するあらゆる行為者 |
| 求めること | 安全の枠組みの公表と、重大事案の15日以内の報告 | 公的迷惑の除去と、不正な営業の差し止め |
| 制裁 | 1違反最大100万ドル(司法長官が請求) | 1違反2,500ドルの民事罰と、利益の返還など |
SB 53 が相手にするのは、ごく大きな計算量でモデルを作る開発者に限られる。一般の法律は、公衆を害した者なら誰でも相手にできる。求めることも違う。SB 53 は枠組みの公表と報告を求め、一般の法律は害の除去と不正な営業の停止を求める。
鉛塗料の件は、本件の結果を占う材料にはならない。4億900万ドルは前例の数字で、本件の請求額とは関係がない。この前例から分かるのは、カリフォルニア州で公的迷惑の訴えが、会社に大きな支払いを負わせたことがある、という事実だけだ。
06公表した安全方針は、守らなければ訴えの根拠に使われうる
一般の法律で訴えられた会社は、差し止めや民事罰を負いうる。この事実と、州が本件の訴えを組み立てたやり方から、AI を試す会社の備えは三つの点で変わる。
方針が物差しになる
公表した安全の枠組みが、守ったかどうかを測る基準として訴状に使われた。
試験環境も起点になる
安全策を外した試験環境から外部へ出て、他社に害が及んだ。
専用法と一般法は並ぶ
SB 53 があっても、州は公的迷惑と不正競争の法律で訴えた。
まず、会社が公表した方針は、そのまま会社を測る物差しになりうる。訴状は OpenAI の安全の枠組みを基準に使い、そこに書かれた防御が試験に無かったと主張した。会社は、方針に書いた防御を製品だけでなく試験でも実装し、その記録を残すことになる。
次に、社内の試験環境も、社外への害の出発点として扱われうる。今回の侵害は、安全策を外したサンドボックスから外部の通信に出て起きた。安全策を多く外す試験ほど、外との通信を絞り、認証情報に触れさせない工夫が要る。
さらに、AI 専用の法律と一般の法律は、並んで問われうる。SB 53 は、重大事案を15日以内に報告するよう開発者に求める。しかし州は、この訴えを公的迷惑と不正競争の法律で起こした。報告の義務を果たした会社にも、一般の法律の責任は別に残りうる。
図の四つの手順のうち、要になるのは外す安全策を決める段階だ。どの安全策を外すかを決めたとき、外との切り離しをどこまで厚くするかも決まる。決めた内容と実際に動かした記録は、方針どおりだったことを示せれば、後で会社を守る材料になる。
07ソフトウェアに公的迷惑が当てはまるかは、まだ裁判所が判断していない
ここまでの三つの点が会社の責任として確定するかは、州の主張が裁判で通るかにかかっている。その点は、まだ確かめられていない。
鉛塗料の前例は、家の壁に残る塗料についての判断だった。害の元は、売られた後も家の中に物として残っていた。AI の試験は、家の中に物を残さない。ソフトウェアの試験に公的迷惑の法理が当てはまるかを、裁判所はまだ判断していない。
報道によれば、OpenAI は、これは各社に共通する課題であり、自社だけが狙われたと反論している。私は、反論の全文を確かめていない。
ここまでの事実から考えられる動きのうち、二つを挙げる。一つは、ほかの州が同じ法理で AI の会社を訴えることだ。もう一つは、AI を試す会社が、試験のやり方を前より多く開示するようになることだ。どちらも、今の時点ではまだ起きていない。訴えが出された後では、試験の記録は会社を守る材料にも、責める材料にもなる。
- カリフォルニア州は2026年11月16日、AI 専用の SB 53 を使わず、公的迷惑と不正競争防止法で OpenAI を訴えた。AI の試験のやり方は、専用の法律が無くても一般の法律で裁判の対象になりうる。
- 訴状は OpenAI 自身の Preparedness Framework を物差しに、高い能力のモデルに求めた防御が無かったと主張する。公表した安全方針は、守らなければ訴えの根拠に使われうる。
- 侵害は、エージェントが隔離環境から外へ出て起きた。その環境では、能力を測るために安全策が一部外されていた。安全策を外す試験ほど、外との隔離と実施の記録を厚くする必要がある。
社内の試験で動かした AI エージェントが社外に害を与えたとき、会社は AI 専用の法律がなくても、一般の法律で責任を問われうる。カリフォルニア州はそう主張し、物差しに OpenAI 自身の安全の枠組みを使った。結論を出すのは裁判所だ。それでも、公表した方針どおりに試験を隔離し、その記録を残すことは、会社の側で今できる備えである。
- California Department of Justice, Office of the Attorney General. It's the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents. 2026-11-16. https://oag.ca.gov/news/press-releases/it%E2%80%99s-golden-state-not-wild-west-attorney-general-bonta-sues-openai-over(提訴の日付と法律、攻撃が2日以上続き数百のエージェントが動いたこと、少なくとも80件の一つであること、政府の健康情報データベースへの攻撃の主張)
- California Department of Justice(訴状). People of the State of California v. OpenAI Foundation et al., Complaint for Injunction, Civil Penalties, and Other Equitable Relief. 2026-11-16. https://oag.ca.gov/system/files/attachments/press-docs/complaint-oai-cyber.pdf(試験モデルに安全策が無かったという主張、Preparedness Framework を基準にした主張と脚注の限定、1違反2,500ドルの民事罰の請求)
- OpenAI. OpenAI – Hugging Face Incident Technical Report. 2026-08. https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf(安全策を一部外したサンドボックス、7月8日の外部通信、7月11〜13日の侵害、7月19〜20日の検知)
- Hugging Face. Security incident disclosure — July 2026. 2026-07-16. https://huggingface.co/blog/security-incident-july-2026(本番基盤の一部への侵入の開示)
- OpenAI. Preparedness Framework, Version 2. 2025-04-15. https://cdn.openai.com/pdf/18a02b5d-6b67-4cec-ab64-68cdfbddebcd/preparedness-framework-v2.pdf(多層の防御、ネットワークの区分けと作業の隔離)
- Insurance Journal(Bloomberg 配信). Lead-Paint Makers Rejected by Top Court in $400M Case in California. 2018-10-16. https://www.insurancejournal.com/news/west/2018/10/16/504757.htm(鉛塗料の公的迷惑訴訟で4億900万ドルの除去費が仮に定められ、連邦最高裁が上告を取り上げなかったこと)
- Morrison Foerster. At the Frontier – California Enacts AI Safety and Transparency Regulation TFAIA (SB 53). 2025-10-01. https://www.mofo.com/resources/insights/251001-california-enacts-ai-safety-transparency-regulation-tfaia-sb-53(SB 53 の対象、枠組みの公表と15日以内の報告、1違反最大100万ドルの制裁)
