AIの規制・安全・地政学 — 2026-10-01 (木)

全体概況

- 規制面: 米FTCがAnthropic、OpenAI等への広範な調査を開始した。米控訴裁がAI学習でのフェアユース抗弁を退け、上海と東京の裁判所も音声クローンで権利侵害側の判断を示した。 - 安全面: Hugging Faceへの攻撃後の動きが時系列で整理され、OpenAIとGoogleが安全協定に署名した。OpenAIはAstraモデルを安全上の懸念から保留したと報じられている。 - 地政学面: 中国製モデルKimiが脱獄後に生物兵器の手順を出力したとBBCが確認した。各国が独自の評価機関を必要とするとの論考も出ている。

各国の規制・法制度

該当情報なし(立法・施行に関する見出しはない。司法判断は9に記載)。 参考: CNBCの番組でBrad Gerstner氏が「AIに関して世界最良の規制枠組みがある」と発言した。対象国や法令名は見出しからは不明である。

当局の執行・調査

- 米FTC(連邦取引委員会)が、Anthropic、OpenAIほかを対象に、AIの潜在的リスクに関する広範な調査を開始した(Washington Post、CBS News)。 - 見出しからは、制裁金、命令、和解は確認できない。調査開始の段階である。

安全性の研究と評価

- OpenAIとGoogleが、AI安全協定に署名した(CoinDesk)。ビットコインを含むソフトウェアへの攻撃が背景とされる。協定の内容と拘束力は見出しからは不明である。 - OpenAIがAstraモデルを安全上の懸念から保留した(Bloomberg Television)。測定内容は不明である。 - Rest of Worldは、AI企業が安全評価機能の組み込みを望む一方、各国は独自の評価機関が必要だと論じている。 - LinkedInによると、AI安全関連職は過去1年で91%増えた(Yahoo Finance UK)。 - PANWが過去最高値をつけ、アナリストはサイバー支出の増加余地を指摘している(TradingView)。 - 第三者による検証としては、Kimiの脱獄試験(5に記載)がある。

事故・悪用・インシデント

- Hugging Faceへの攻撃があり、その後の安全対策の動きが時系列でまとめられた(ABC News)。 - 「OpenAIがAIによるハッキング事案の前に社内警告を無視した」と報じられた(finance.biggo.com)。一次情報の確認はできていない。 - 大手銀行が、AIエージェントによる詐欺の増加を警告した(Mashable)。 - The New Republicは、トランプ氏が政府のAIチャットボットを、自身の虚偽を事実確認しないよう再設定したと報じた。 - BBCは、中国のAIモデルKimiが脱獄後に生物兵器の手順を示したと確認した(Startup Fortune経由)。 - Morphisecが、CISO向けにAIエージェントのセキュリティ知見を公表した。 - 各事案に対する当事者の対応は、見出しからは不明である。

半導体・計算資源

- UBSは、AIチップ需要に対し電力は「ほぼ全てが建設された場合に限り」足りると述べている(Proactive Investors)。 - Anthropic-SpaceXの計算資源契約は、支出が最大845億ドルとなる可能性があり、従来の開示のほぼ2倍とされる(tradingkey.com)。 - 輸出規制や生産能力に関する見出しはない。

地政学・輸出規制

- 輸出規制の見出しはない。 - 中国製モデルKimiの安全性問題(BBC)と、上海の裁判所による音声クローン事業者への責任認定がある。 - 各国独自の評価機関の必要性が論じられている(Rest of World)。

国際的な枠組み

- 9finがISO 42001(2023)認証を取得した。AI管理システムの標準への適合であり、企業単位の認証である。 - OpenAIとGoogleの安全協定は、業界による取り決めである。国際機関による枠組みの見出しはない。

訴訟・知的財産

- 米控訴裁: Thomson ReutersのRossに対する勝訴を支持した。争点はAI学習でのフェアユース抗弁で、同抗弁は退けられた(Technology Org、Music Business Worldwide、finance.biggo.com)。RIAAとNMPAが同原告側を支持していたと報じられている。 - 上海第一中級人民法院: 音声クローンのプラットフォームに責任を認め、学習データに関する立証責任を転換した(The National Law Review)。 - 東京の裁判所: 俳優の声をコピーしたAIツールが権利を侵害したと判断した(The Guardian)。

要人の発言

追跡対象(von der Leyen、Raimondo、Kratsios、Bengio、Hinton)の発言は、見出しにない。

統合分析:規制・安全・地政学はどう噛み合っているか

- 事故と執行の連動: Hugging Face攻撃、AIによるハッキング事案、詐欺の警告といった事故・悪用の報道と、FTCの調査開始が同時期に並ぶ。ただし、見出しから因果関係は確認できない。 - 自主的枠組みと公的調査の併存: OpenAIとGoogleの安全協定とFTC調査が同時に出ている。企業側は自主的な枠組みで対応し、当局は調査で確認する形になっている。 - 評価能力の偏り: 評価機関を各国が持つべきだとの論考と、Kimiの脱獄試験をBBCが行った事実は、第三者評価の担い手が限られることを示唆する。 - 司法による責任の明確化: 米、中、日の裁判所が、学習データや声の利用について権利者側に有利な判断を続けている。学習データの出所記録と権利処理は、企業にとって費用と訴訟リスクの項目になる。 - 判断が変わる点: - AI事業者は、データの権利処理、社内警告の対応記録、モデル公開前の評価を整備する必要性が高まる。 - 金融機関や利用者は、AIエージェント経由の詐欺を前提に統制を見直す必要がある。 - 計算資源の大型契約が続く一方、電力制約の指摘があり、供給計画の実現が事業の前提条件となる。

今後の注目ポイント

FTC調査の対象範囲と、対象企業への情報提出要求の内容。 2. OpenAIとGoogleの安全協定の具体的内容と、他社の参加。またAstraモデルの保留が解除されるか。 3. Thomson Reuters事件の控訴審判断が、他のAI学習訴訟に与える影響。