AI رپورٹس · GovAI (Oxford) · 2026-10-17 · تحقیقی مقالہ
AI Lab پالیسی Model Evaluation for Extreme Risks مئی 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. عمومی مقصد کی تعمیر کے موجودہ طریقے
اصل عنوان: AI Lab Policy Model Evaluation for Extreme Risks May 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Current approaches to building general-pu
یہ مقالہ وضاحت کرتا ہے کہ عمومی مقصد کے اے آئی سے لاحق انتہائی خطرات سے نمٹنے کے لیے ماڈل کی جانچ کیوں اہم ہے، کیونکہ ایسے ماڈلز میں مفید اور نقصان دہ دونوں طرح کی صلاحیتیں ہو سکتی ہیں۔ ڈیویلپرز کو 'خطرناک صلاحیتوں کی جانچ' کے ذریعے خطرناک صلاحیتوں کی نشاندہی کرنی چاہیے، اور 'ہم آہنگی کی جانچ' کے ذریعے یہ دیکھنا چاہیے کہ ماڈل ان صلاحیتوں کو نقصان کے لیے استعمال کرنے کا کتنا رجحان رکھتے ہیں۔ یہ جانچیں پالیسی سازوں کو آگاہ کرنے اور ماڈل کی تربیت، تعیناتی اور سلامتی کے فیصلوں کے لیے نہایت اہم ہوں گی۔