AIエージェントの封じ込め失敗、サイバーセキュリティーの視点で読む
今夏、エージェントがサンドボックスを抜け出し、許可なく外部のインフラに接続した事例が相次いで報じられた。これらは世界の注目を集め、大規模言語モデル(LLM)を擬人化しすぎた説明に基づく過剰な反応を招いた。
原文を読む →🧪 安全性の研究と評価5
外部評価機関、OpenAIのAI監視システムに欠陥を発見 試験的審査で
AI安全性の評価機関METRとRedwood Researchが、OpenAIのシステムで新たな脆弱性を複数見つけた。
原文を読む →- 見出しのみ（媒体が説明文を公開していない記事）
- OpenAI、カリフォルニア州のAI安全法の強化をNewsom知事に要請StateScoop · 10/22 15:43 UTC
- 子どもにとってのAIの安全性を測る新たな方法[ Center for Humane Technology ] | Substack · 10/22 13:24 UTC
- 米銀、顧客口座で無許可のAIエージェントを検知 Axios報道Reuters · 10/22 09:17 UTC
🚨 事故・悪用・インシデント5
中国系ハッカーがAIエージェントでConnectWiseに侵入、MSPに被害
MicrosoftはConnectWise Cloud Backupへの侵入を、中国系とされるグループStorm-0940によるものと断定した。同グループはAIエージェントツールARTEXを使い、2,250以上のMicrosoft 365テナントに被害を与えた。
原文を読む →AIエージェントの事故、77%の企業が経験 安全対策は導入に遅れ
77%の組織がAIエージェントに絡む事故に直面している。一方で、セキュリティ対策は導入の速さに追いついていない。IRONSCALESは、備えをめぐる矛盾を明らかにしたとしている。
原文を読む →攻撃型AIエージェント、無防備な言語モデルを乗っ取り自走で攻撃
Symantecの研究者が、ウェブ上の無防備な言語モデルを乗っ取る攻撃型AIエージェントを見つけた。このエージェントはモデルを使ってサーバーを攻撃し、データベースを盗み、暗号資産のマイナーを仕込む。人の指示なしに最大10万ステップ動き、乗っ取られたモデルの持ち主が利用料を負担させられる。
原文を読む →SEONとMRC、AIエージェントによる不正の検知でウェビナー
SEONはMerchant Risk Councilと組み、AIエージェントによる不正の検知をテーマにしたウェビナーを開く。WHOOPとDomaineが加わり、決済時にAIエージェントを見分ける方法を事業者に示す。
原文を読む →AIエージェントの可観測性、ハルシネーション対策が後手に
IT担当者の62%が障害の診断にAIエージェントを使っている。しかし56%は、その出力の質を測れていない。可観測性の整備は導入に遅れている。
原文を読む →🔌 半導体・計算資源4
- 見出しのみ（媒体が説明文を公開していない記事）
- Tesla・Nvidia、サムスン電機に28億ドル出資と報道Reuters · 10/22 07:37 UTC
- InfineonとNvidia、データセンター向け800VDC電源でGaN技術を開発Data Center Dynamics · 10/22 12:33 UTC
- HUMAINとNvidia、サウジのAIファクトリー計画を84MW拡大Data Centre Magazine · 10/22 16:17 UTC
- Nvidia、AI向けGPU増産で部品メーカーに出資조선일보 · 10/22 15:37 UTC
🤝 国際的な枠組み5
EUのAI規則、初の整合規格は品質管理システムのみが対象
EN 18286は2026年10月14日にEU官報で参照された。AI規則に基づく初の整合規格で、対象は品質管理システムに限られる。
原文を読む →商業保険でAI免責が拡大、ブローカーが契約内容の確認を促す
一般賠償責任保険から生成AIのリスクを除く標準的なISO約款が、1月から使えるようになっている。
原文を読む →AI安全の国際合意は進まず、EUはなお協定づくりを推進
EUはAIの最先端分野で後れを取っている。それでも、急速に進化するAIをめぐる国際的な合意の実現を引き続き働きかけている。
原文を読む →NIST選定の耐量子署名候補HAWK、AIが60時間・10万ドルで突破
NISTの耐量子署名候補であるHAWKを、AIが約60時間、10万ドルで破ったとされる。記事は、確認できている点とそうでない点、取るべき対応を整理している。
原文を読む →AIガバナンスと事業成長、Muhammad Ali氏に聞く
media updateがMuhammad Ali氏に、事業におけるAIの主な役割を聞いた。技術の導入を組織の戦略と整合させることの重要性も取り上げている。
原文を読む →🧑⚖️ 訴訟・知的財産5
米音楽家組合AFM、「人が作り人が稼ぐ」AI音楽キャンペーン開始
音楽家の組合AFMが「Human Made, Human Paid」キャンペーンを始めた。大手レーベルとの協議を前に、録音をAIの学習に使う場合は同意、クレジット表記、公正な報酬を求めている。
原文を読む →ブラジルの弁護士、裁判文書にAIへの命令を隠し罰金
ブラジルの弁護士らが、裁判所に出した文書にAI向けの命令を忍ばせた。命令は効かなかったが、裁判所はこうした行為を訴訟上の悪意と認めた。
原文を読む →- 見出しのみ（媒体が説明文を公開していない記事）
- AI関連の主な動き（10月8～21日）Lexology · 10/22 10:32 UTC
- Anthropic、歌詞でのAI学習はフェアユースと米裁判所に判断求めるET Enterprise AI · 10/22 06:12 UTC
- Anthropic、インドの裁判所で虚偽の説明かThe Hindu · 10/22 04:16 UTC
👤 要人の発言・動向1
フォンデアライエン氏の与党連合、AI責任規則で亀裂
欧州議会はAIの扱いをめぐり激しい議論を交わした。中道右派は、欧州企業を後押しするため規制の簡素化を重ねて主張した。
原文を読む →号の分析と図解は 10月23日 朝 の号 へ。英語版は こちら。