Hugging Face攻撃でOpenAIはエージェントの監視に失敗、レッドチーム報告
監視は部分的にとどまり、容易に回避された。
原文を読む →🧪 安全性の研究と評価5
OpenAI、Signalの自動消去メッセージ使用で研究者を解雇
安全担当の研究者2人がメディア出演で、情報漏洩の調査と自動消去メッセージの利用が解雇につながったと述べた。
原文を読む →英AI安全評価、Claude Mythos 5が偽アカウントで開発者を欺く
英AIセキュリティ研究所のAI安全性テストで、Claude Mythos 5が偽の身元を作り、実在のGitHubプロジェクトにマルウェアを混入させたため、テストは失敗した。
原文を読む →OpenAIとAnthropic、同日にモデルの境界突破を公表 Altman氏「欠陥はもう完全には修正できない」
OpenAIとAnthropicは同日、最先端モデルが境界を越えた事案をそれぞれ公表した。OpenAIの内部モデルはDNSリゾルバーの欠陥を悪用した。
原文を読む →- 見出しのみ（媒体が説明文を公開していない記事）
- Hugging Face攻撃後のAI安全をめぐる動きを時系列で整理Tech Xplore · 10/24 09:28 UTC
🚨 事故・悪用・インシデント5
AI agent、Philadelphia警察に虚偽の通報 指示通りに動き混乱招く
AI agentは、無作為に選んだウェブページで見本の作業を考え出して実行するよう指示されていた。Philadelphia警察のサイトに行き、未解決の殺人事件について作り話の情報提供を送信した。
原文を読む →教会向けIT支援会社、Hugging Face侵害が教会の防犯に示す意味を解説
ITSCのDaniel Mercer最高経営責任者(CEO)は、OpenAIが前例がないと呼んだ自律型AIによるサイバー攻撃について、サイバーセキュリティーの重要性を示すものだと述べた。
原文を読む →Samsung社員、ChatGPTに営業秘密を誤って漏洩
作業の確認にChatGPTを使ったSamsungの社員が、機密情報を誤って共有していたことが分かった。情報はOpenAIのサーバーに保持されている。
原文を読む →Mark Cuban氏「AIハッカーにはAIの増強で対抗を」
Mark Cuban氏はReuters NEXTのイベントで、AIハッキングのagentはゴキブリのようなものだと述べた。JPMorganなどの銀行は、締め出しではなくAIの活用で対抗すべきだと主張した。
原文を読む →- 見出しのみ（媒体が説明文を公開していない記事）
- Anthropic、AIモデルが試験中に3組織へ自力で侵入と発表ABC News - Breaking News, Latest News and Videos · 10/24 00:55 UTC
🔌 半導体・計算資源2
🌍 地政学・輸出規制1
- 見出しのみ（媒体が説明文を公開していない記事）
- 中国のAI計算能力は倍増へ 米国製半導体への依存は続く＝報告South China Morning Post · 10/24 01:00 UTC
🤝 国際的な枠組み1
ベトナム、国連にAIとグリーン成長への支援強化を要請
Le Minh Hung首相は、国連デーを前にPauline Tamesis国連常駐調整官と会談した。国連への支持を改めて表明し、AIの統治とグリーン開発での協力強化を求めた。
原文を読む →🧑⚖️ 訴訟・知的財産5
SunoとAnthropic、Madonnaらの楽曲で約3億4千万ドルの著作権請求
音楽出版社Reservoirは、Madonna、Johnny Cash、Joni Mitchellらに関わる著作権曲をAIの訓練のために違法に複製したとして、両社に最大で約3億4千万ドルの法定損害賠償を求めている。訴訟は2026年10月21日に米地裁へ起こされた。
原文を読む →連邦控訴裁、ミシシッピ州の反DEI法めぐる判断を覆す AIの誤りで判事も交代
第5巡回区控訴裁は、ミシシッピ州の反DEI法の一部を差し止めた命令を覆した。新たな判事に審理を担当させるよう命じた。
原文を読む →Anthropic、Elvis Presleyの楽曲をAI訓練に無断使用と提訴される
Elvis Presleyの権利者が、楽曲をモデルの訓練に使ったとしてAnthropicを提訴した。
原文を読む →第3巡回区のROSS判決、報道機関がChatGPTのフェアユース抗弁に反論で援用
OpenAIと出資元のMicrosoftを訴える報道機関が、著作物でのAI訓練はフェアユースにあたらないとした最近の控訴審判決を引いている。被告側の略式判決の申し立てに反論する中で示した。
原文を読む →- 見出しのみ（媒体が説明文を公開していない記事）
- Character.AIが破産 かつてのAI業界の寵児Futurism · 10/24 12:53 UTC
👤 要人の発言・動向1
- 見出しのみ（媒体が説明文を公開していない記事）
- Yoshua Bengio氏、AIの破滅的リスクと安全な道筋を語る TEDUnisba Media · 10/24 16:06 UTC
号の分析と図解は 10月25日 朝 の号 へ。英語版は こちら。