AI এবং বিশ্বের কঠিন সমস্যাগুলো · অর্থনীতি ও সমাজবিজ্ঞান · Anthropic · 2026-10-20
ভাষা মডেলের সিদ্ধান্তে বৈষম্য মূল্যায়ন
মূল শিরোনাম: Evaluating discrimination in language model decisions
যেহেতু ভাষা মডেলগুলোকে অর্থায়ন বা আবাসনের যোগ্যতার মতো উচ্চ-ঝুঁকির সামাজিক সিদ্ধান্তের জন্য বিবেচনা করা হচ্ছে, বৈষম্যের সম্ভাবনা নৈতিক উদ্বেগ তৈরি করে। গবেষণাটি এমন একটি পদ্ধতি উপস্থাপন করে যা একটি ভাষা মডেল ব্যবহার করে 70টি বৈচিত্র্যময় সিদ্ধান্তের দৃশ্যপট জুড়ে প্রচুর সম্ভাব্য প্রম্পট তৈরি করে, পাশাপাশি প্রতিটিতে জনসংখ্যাতাত্ত্বিক তথ্য পদ্ধতিগতভাবে পরিবর্তন করে। হস্তক্ষেপ ছাড়া Claude 2.0-এর নির্বাচিত কিছু সেটিংসে ইতিবাচক ও নেতিবাচক উভয় ধরনের বৈষম্যের প্যাটার্ন দেখা দিয়েছিল, আর সতর্ক প্রম্পট ইঞ্জিনিয়ারিং উভয়কেই উল্লেখযোগ্যভাবে কমিয়েছে; ডেটাসেট ও প্রম্পটগুলো প্রকাশ করা হয়েছে।