自動化研究員能可靠地緩解對齊失效問題

原標題: Automated researchers can reliably mitigate alignment failures

Anthropic 讓 Claude 自主訓練模型，以提升在涵蓋 10 類對齊失效的公開基準測試上的表現。針對這 10 類，Claude 都找到了能提高目標基準分數、且不會降低通用能力的修正方法。這項研究旨在讓安全研究在 AI 日益協助打造 AI 的情況下仍能跟上腳步。