自动化研究员能够可靠地缓解对齐失败

原标题: Automated researchers can reliably mitigate alignment failures

Anthropic 让 Claude 自主训练模型,以提升其在涵盖 10 类对齐失败的公开基准上的表现。针对全部 10 类,Claude 都找到了能在不降低通用能力的前提下提高目标基准分数的修复方法。这项工作旨在随着 AI 越来越多地参与构建 AI,让安全研究能够跟上步伐。