AI 报告 · GovAI (Oxford) · 2026-10-17 · 研究论文
AI 实验室政策 针对极端风险的模型评估 2023年5月 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung 等 当前构建通用
原标题: AI Lab Policy Model Evaluation for Extreme Risks May 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Current approaches to building general-pu
这篇论文阐述了为什么模型评估对于应对通用人工智能带来的极端风险至关重要，因为这类AI既可能具备有益能力，也可能具备有害能力。开发者必须通过“危险能力评估”来识别危险能力，并通过“对齐评估”来判断模型将这些能力用于造成危害的倾向。这些评估对于为政策制定者提供参考，以及为模型训练、部署和安全方面的决策提供依据，将至关重要。