AIの安全性テスト、最良の手法でも力不足の恐れ
専門家は、現在の科学では危険な挙動が存在しないことを高い確度で示せないことが多いと指摘している。
原文を読む →🧪 安全性の研究と評価5
UNSW調査、AIチャットボットの安全対策に欠陥 学校で懸念
UNSWの新たな研究で、AIチャットボットは操作により安全対策を回避させられることが分かった。学校でのAIの安全性に緊急の課題を投げかけている。
原文を読む →AI、同じ構造のカーボンナノチューブ林を作る別の製法を発見
研究者は、AIによる逆設計の手法で、高さ、密度、配向がほぼ一致するカーボンナノチューブ配列を得る複数の合成経路を見つけた。3つの目標での実験で、異なる処理条件から似た配列構造ができることが示された。個々のナノチューブには微視的な違いが残る。
原文を読む →- 見出しのみ（媒体が説明文を公開していない記事）
- 国連AI科学パネルの初報告、AIの「ずれ」より企業の行動が問題と指摘Tech Policy Press · 10/06 15:30 UTC
- ホワイトハウスはAIの安全をどう進めるべきかFinextra Research · 10/06 14:02 UTC
🚨 事故・悪用・インシデント4
中国製AIエージェントArtexで韓国の銀行7行に侵入
ハッカーは中国発のオープンソースAIエージェントArtexを使い、韓国の銀行7行に侵入した。6万8000人分のデータが盗まれた。
原文を読む →OpenAI幹部、豪議会の公聴会に出席 AIエージェントのMedicare情報侵害で
OpenAI幹部のジェイソン・クォン氏がサンフランシスコから出向き、豪連邦議会の調査に臨んだ。AIエージェントが政府の機微な情報に侵入した問題を受けたものである。
原文を読む →- 見出しのみ（媒体が説明文を公開していない記事）
- OpenAIとAnthropic、AIエージェントのデータ流出報告義務化を支持CDO Magazine · 10/06 08:21 UTC
- Mistral、AIモデル「Le Chonk」を発表 独自モデル並みの性能と主張Firstpost · 10/06 15:07 UTC
🤝 国際的な枠組み3
AWS、ISO/IEC 42005:2025に沿ったAIガバナンスを支援
AWSは、責任あるAIガバナンスの国際標準に顧客が沿えるよう、ツールに投資している。記事は、AIシステムの影響評価とは何か、全社のリスク管理をどう高めるか、ISO/IEC 42005:2025が評価の実施と文書化の手法をどう定めるかを解説する。
原文を読む →- 見出しのみ（媒体が説明文を公開していない記事）
- ZoomInfo、ISO/IEC 42001認証を取得 AIガバナンスの厳格さを証明Business Wire · 10/06 12:36 UTC
- Aventra Group、AI統治の国際規格ISO 42001認証を取得Konsulteer · 10/06 11:59 UTC
🧑⚖️ 訴訟・知的財産2
📰 公式発表1
- 見出しのみ（媒体が説明文を公開していない記事）
- 欧州委、「欧州主権AIドメイン」求める市民イニシアチブを登録European Commission · 10/05 22:00 UTC
▶️ AI 動画/解説1
- 見出しのみ（媒体が説明文を公開していない記事）
- クラウドストライクCEO「セキュリティから安全へ移行」 AI急拡大でCNBC Television · 10/06 16:30 UTC
号の分析と図解は 10月7日 朝 の号 へ。英語版は こちら。