AI और दुनिया की कठिन समस्याएँ · अर्थशास्त्र और सामाजिक विज्ञान · Anthropic · 2026-10-20
भाषा मॉडल निर्णयों में भेदभाव का मूल्यांकन
मूल शीर्षक: Evaluating discrimination in language model decisions
जब भाषा मॉडलों पर वित्तपोषण या आवास पात्रता जैसे उच्च-दांव वाले सामाजिक निर्णयों के लिए विचार किया जाता है, तो भेदभाव की उनकी संभावना नैतिक चिंताएँ पैदा करती है। यह अध्ययन एक ऐसी विधि प्रस्तुत करता है जो एक भाषा मॉडल का उपयोग करके 70 विविध निर्णय परिदृश्यों में संभावित प्रॉम्प्ट की व्यापक श्रृंखला तैयार करती है और साथ ही प्रत्येक में जनसांख्यिकीय जानकारी को व्यवस्थित रूप से बदलती है। बिना किसी हस्तक्षेप के, Claude 2.0 में कुछ चुनिंदा सेटिंग्स में सकारात्मक और नकारात्मक दोनों तरह के भेदभाव के पैटर्न दिखाई दिए, और सावधानीपूर्वक प्रॉम्प्ट इंजीनियरिंग ने दोनों को काफी कम कर दिया; डेटासेट और प्रॉम्प्ट जारी कर दिए गए हैं।