AI रिपोर्ट्स · GovAI (Oxford) · 2026-10-17 · शोध पत्र
AI Lab Policy Model Evaluation for Extreme Risks May 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. सामान्य-उद्देश्य (general-pu
मूल शीर्षक: AI Lab Policy Model Evaluation for Extreme Risks May 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Current approaches to building general-pu
यह पेपर समझाता है कि सामान्य-उद्देश्य वाले AI से उत्पन्न होने वाले अत्यधिक जोखिमों से निपटने के लिए मॉडल मूल्यांकन क्यों महत्वपूर्ण है, क्योंकि ऐसे AI में लाभकारी और हानिकारक दोनों तरह की क्षमताएँ हो सकती हैं। डेवलपरों को 'खतरनाक क्षमता मूल्यांकन' के ज़रिए खतरनाक क्षमताओं की पहचान करनी होगी, और 'अलाइनमेंट मूल्यांकन' के ज़रिए यह जानना होगा कि मॉडल उन क्षमताओं को नुकसान पहुँचाने के लिए इस्तेमाल करने की कितनी प्रवृत्ति रखते हैं। ये मूल्यांकन नीति-निर्माताओं को जानकारी देने और मॉडल प्रशिक्षण, परिनियोजन और सुरक्षा से जुड़े फ़ैसलों के लिए अहम होंगे।