الذكاء الاصطناعي ومشكلات العالم الصعبة · الاقتصاد والعلوم الاجتماعية · Anthropic · 2026-10-20

تقييم التمييز في قرارات نماذج اللغة

العنوان الأصلي: Evaluating discrimination in language model decisions

وبما أنه تُدرس نماذج اللغة لاستخدامها في قرارات مجتمعية بالغة المخاطر مثل الأهلية للحصول على التمويل أو السكن، فإن احتمال ممارستها للتمييز يثير مخاوف أخلاقية. تقدم الدراسة طريقة تستخدم نموذج لغة لتوليد مجموعة واسعة من المطالبات المحتملة عبر 70 سيناريو قرار متنوع مع تغيير المعلومات الديموغرافية في كل منها تغييراً منهجياً. وفي غياب التدخلات، ظهرت أنماط من التمييز الإيجابي والسلبي معاً في بعض الإعدادات في Claude 2.0، وقلّلت هندسة المطالبات الدقيقة كليهما بشكل كبير؛ وقد أُطلقت مجموعة البيانات والمطالبات للعموم.

اقرأ المصدر الأصلي ↗

جميع العناصر →