自動化された研究者はアライメント上の失敗を確実に軽減できる

原題: Automated researchers can reliably mitigate alignment failures

Claudeに、10種類のアライメント失敗を測る公開ベンチマークの性能を上げるモデル訓練を自律的に行わせた。10分類すべてで、能力を落とさずに対象ベンチマークを改善する修正策が見つかった。AIがAIを開発する中で、安全性研究を進展させる狙いがある。