AIの規制・安全・地政学 — 2026-10-30 (金) Daily News

全体概況

- 規制面では、米DOJによるNvidiaのHugging Face買収への調査と、フロリダ州司法長官のAI企業提訴が出ており、執行が先に動いている。立法はニューヨーク州上院議員の提案段階にとどまる。 - 安全面では、AIエージェントの攻撃検知(Cisco)・本人確認(Shufti)・ログ流出(Warp)など、エージェントの運用上の安全に関する見出しが多い。 - 地政学面では、米中のAI安全対話の枠組みを論じる論考と、EU・カナダの協力が目立つ。輸出規制の新規措置に関する見出しはない。

各国の規制・法制度

- 米国(ニューヨーク州): Gounardes上院議員がAIの安全性と透明性に関する新たな規制を提案した(州上院の発表)。提案であり、成立・施行はしていない。適用対象と施行時期は見出しからは不明。 - その他の国・地域: 該当情報なし(EU・カナダの動きは「10. 要人の発言」参照)。

当局の執行・調査

- 米司法省(DOJ)→Nvidia: Hugging Face買収について照会している(Reuters、情報源に基づく報道)。別の報道は、Nvidiaが「提案中の」買収で反トラスト上の精査を受けていると伝える。Livemintは、買収額が12.93 billionドルで、DOJの懸念はNvidiaがAIモデルの開発者への届き方を左右し得る点にあると報じている。現時点は照会・精査の段階で、提訴や差止めの見出しはない。 - フロリダ州司法長官(Uthmeier)→AI企業(社名は見出しに無い): 児童の性的搾取画像の問題で提訴した。同時にKissimmeeの男性に対する100件の重罪容疑での起訴も発表している。AI企業が性的に露骨な児童画像の生成を許しているとの主張である(Florida Phoenix)。

安全性の研究と評価

- 中国のAIモデルのサイバー攻撃試験: 研究者によると、管理された試験で複雑なサイバー攻撃を実行した(Insurance Journal)。測られたのは攻撃の遂行能力。モデル名・成功率・評価機関は見出しからは不明。 - UC San Diego: Center for Principled Agentic Intelligenceを開設した。 - OpenAI: ポーランドの研究機関NASKとAI安全に関する合意に署名した。 - 論考: 米中AI安全チャンネルに必要な条件(The Diplomat)と、AI安全における「知る義務(Duty to Know)」(The Well News)。いずれも主張であり、制度化されたものではない。 - system card・第三者評価の新規公開に関する見出しはない。

事故・悪用・インシデント

- Warp: 第三者ベンダーの侵害により、AIエージェントの判断ログとユーザーのテレメトリが露出したと自ら公表した。対応の詳細は見出しからは不明。 - Cisco: 無害に見える手順に隠れたAIエージェント攻撃を検出するツールQuarryをオープンソース化した(SecurityWeek)。 - 防御・運用製品の発表: Shufti(エージェントの本人確認、人間の認可、権限を一括で検証するKnow Your Agent)、Virtana(IT障害対応向けのAIエージェント編成)。 - 上記の中国モデルの件は管理された試験であり、実環境の事故とは区別する。

半導体・計算資源

- SpaceX: 地上のAI基盤整備のため、NVIDIA GPUを40B(ドル)規模でリースする契約に合意した。 - Samsung: 2026年の設備投資を過去最高の63.2 billionドルに引き上げた。AIチップ需要の拡大が理由とされる。 - メモリ技術: Patrick Gelsinger元Intel CEOが、AIチップのボトルネックを解消し得る新メモリ技術を支援している(Wccftech)。 - 市場: 投資家の評価がNvidiaとAppleで分かれているとの報道。 - 輸出規制と電力に関する見出しはない。

地政学・輸出規制

- 米中の技術競争の現状をAIに尋ねる記事(The Business Times)があるが、見出しから措置や品目は特定できない。 - 米中のAI安全チャンネルの必要条件を論じる論考がある(The Diplomat)。 - 新たな輸出規制の発動・変更に関する見出しはない。

国際的な枠組み

- ISO/IEC 42001: AI機能を出荷するチームに求める要件を解説する記事(TechBullion)。 - 欧州評議会: ボスニア・ヘルツェゴビナにおけるAI、メディア、情報の完全性に関する資料。 - オーストリア: 国連の新AIセンターの設置地としてウィーンを売り込んでいる。誘致の提案段階で、決定ではない。 - ベトナム: 「世界的な約束から実質的な行動へ」と題する地域間対話。 - EU・カナダ: 共同でAIの規則と標準を策定すると、フォン・デア・ライエン委員長が述べている(「10」参照)。

訴訟・知的財産

- OpenAI著作権訴訟: 出版社らがamicus briefを提出した。争点はAI学習における著作物の利用。 - OpenAI(ChatGPT): 発作の薬をやめるようChatGPTが女性に告げ、その後に女性が死亡したとして提訴された。争点はAIの医療的助言に対する責任。 - フロリダ州: 「3」参照。争点は児童の性的画像を生成できるAIの提供責任。

要人の発言

- Ursula von der Leyen(欧州委員会委員長): カナダはEUのスーパーコンピュータでAIを訓練する。EUとカナダはエネルギー、AI、安全保障で深い提携を目指す。AIの規則と標準を共同で策定する。 - Gina Raimondo(元商務長官): デューク大学で、2026年の民主党の勝利を予測し、AIの「ガードレール」を求めた。見出し上は、予測は本人の発言として扱う。 - Michael Kratsios、Yoshua Bengio、Geoffrey Hinton: 該当情報なし。

統合分析:規制・安全・地政学はどう噛み合っているか

以下は見出し同士の関係からの分析であり、各見出しが直接述べている内容ではない。

- 競争法と計算資源: DOJの照会(Hugging Face)は、モデルの流通経路への支配を懸念している。一方でSpaceXのGPUリースとSamsungの設備投資は、計算資源の需要が拡大していることを示す。計算資源と流通経路の双方が特定企業に集まる点が、執行側の関心と重なる可能性がある。 - エージェントの安全が運用課題に: Warpのログ露出、Ciscoの検出ツール、Shuftiの本人確認は、エージェントの安全が、導入後の検知・認証・ログ管理という運用の課題として扱われ始めていることを示す。ISO/IEC 42001の解説は、開発工程へのガバナンス組み込みという同じ方向にある。 - 立法より執行が先行: 法制度ではニューヨーク州の提案が段階にとどまる一方、フロリダ州は既存の権限で提訴し、DOJは調査を進めている。各国のAI専用法の成立を待たず、既存法による責任追及が先に動いている。 - 国際協調: EU・カナダは計算資源の提供と規則・標準の共同策定を組み合わせている。米中は、安全チャンネルの構想が論じられる一方で、中国モデルのサイバー攻撃試験が報じられている。

判断が変わる点 - Hugging Faceを使う企業: 買収の行方次第で、モデル入手経路への依存リスクを見直す必要が出る。 - エージェントを導入する企業: ベンダー経由で判断ログが漏れ得るため、ログの保管先と第三者委託の範囲を点検する必要がある。 - 画像生成など生成系サービスの提供者: 児童性的画像をめぐり州当局が提訴しており、生成制限の実効性が問われる。

今後の注目ポイント

DOJの照会がNvidiaのHugging Face買収に対する正式な審査や提訴に進むか。 2. ニューヨーク州のAI安全・透明性規制案が法案として前進するか。 3. Warpの件を含め、エージェントのログ・権限管理に関する追加の公表や、本人確認製品の普及が進むか。