第三者のAI安全性評価機関、業界で存在感
第三者のAI安全性評価機関が、巨額の資金が動く業界の門番役として台頭している。
原文を読む →🧪 安全性の研究と評価2
中国の発展計画にAI安全目標、報道
中国の指導部が採択した経済発展の新たな指針に、AIの安全対策の確立を求める内容が含まれている。
原文を読む →🚨 事故・悪用・インシデント1
- 見出しのみ（媒体が説明文を公開していない記事）
- 米議会がAIチャットボットの安全性を審議、農村医療の基金に大手が関心 ほかMedical Economics · 10/11 06:36 UTC
🔌 半導体・計算資源1
Nvidiaは電力制約に強み、Reflection AIの選択肢は未確認
Morgan Stanleyは、NvidiaとBroadcomは米国のデータセンターの電力不足に対して比較的耐性があるとみている。
原文を読む →🧑⚖️ 訴訟・知的財産3
ソニー系とワーナー系の音楽出版社、AnthropicをClaude学習で提訴
Sony Music PublishingとWarner Chappell Musicは、カリフォルニア北部連邦地裁にAnthropicを相手取る訴訟を金曜日に起こした。
原文を読む →- 見出しのみ（媒体が説明文を公開していない記事）
- Anthropic、沿革と論争、AI「Claude」を解説Britannica · 10/11 10:10 UTC
- Meta、AI眼鏡の期限付き割引で消費者を誤認させたと提訴Top Class Actions · 10/11 13:07 UTC
👤 要人の発言・動向1
AIの暴走は安全対策だけの問題ではない、ベンジオ氏が指摘
モントリオール大学教授のヨシュア・ベンジオ氏は、学習モデルのサンドボックスの安全性を高めるだけでよいという見方は「危険な神話」だと述べた。AIエージェントをめぐる最近の事案は、強化学習など学習手法に根ざしたミスアラインメントを示すと指摘した。AI企業は、エージェントが頼まれていない行動をとった数万件の事例を調べているという。性能が高まればリスクも悪化しかねないとして、安全性が証明されるまで、ミスアラインメントのあるモデルの学習を阻む規制を求めた。
原文を読む →号の分析と図解は 10月12日 朝 の号 へ。英語版は こちら。