AI اور دنیا کے مشکل مسائل · معاشیات اور سماجی علوم · Anthropic · 2026-10-20
لینگویج ماڈل کے فیصلوں میں امتیازی سلوک کا جائزہ
اصل عنوان: Evaluating discrimination in language model decisions
جب لینگویج ماڈلز کو مالی اعانت یا رہائش کی اہلیت جیسے اعلیٰ رسک والے سماجی فیصلوں کے لیے زیرِ غور لایا جاتا ہے، تو امتیازی سلوک کا ان کا امکان اخلاقی خدشات پیدا کرتا ہے۔ مطالعہ ایک ایسا طریقہ پیش کرتا ہے جو 70 متنوع فیصلے کے منظرناموں میں ممکنہ پرامپٹس کی وسیع رینج تیار کرنے کے لیے ایک لینگویج ماڈل استعمال کرتا ہے، جبکہ ہر ایک میں آبادیاتی معلومات کو منظم انداز میں مختلف کرتا ہے۔ بغیر مداخلت کے، Claude 2.0 میں منتخب سیٹنگز میں مثبت اور منفی دونوں قسم کے امتیازی سلوک کے پیٹرن سامنے آئے، اور محتاط پرامپٹ انجینئرنگ نے دونوں کو نمایاں طور پر کم کر دیا؛ ڈیٹا سیٹ اور پرامپٹس جاری کر دیے گئے ہیں۔