AI 報告 · GovAI (Oxford) · 2026-10-17 · 研究論文
AI 實驗室政策 極端風險的模型評估 2023 年 5 月 Toby Shevlane、Sebastian Farquhar、Ben Garfinkel、Mary Phuong、Jess Whittlestone、Jade Leung 等人 目前建構通用
原標題: AI Lab Policy Model Evaluation for Extreme Risks May 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Current approaches to building general-pu
本文說明為何模型評估對於因應通用型 AI 的極端風險至關重要，因為這類 AI 同時具備有益與有害的能力。開發者必須透過「危險能力評估」找出危險能力，並透過「對齊評估」找出模型運用這些能力造成危害的傾向。這些評估對於提供決策者參考，以及作為模型訓練、部署與安全相關決策的依據，都將至關重要。