AI na Matatizo Magumu ya Ulimwengu · Uchumi na sayansi za jamii · Anthropic · 2026-10-20
Tathmini ya ubaguzi katika maamuzi ya mifano ya lugha
Kichwa asilia: Evaluating discrimination in language model decisions
Kadiri mifano ya lugha inapofikiriwa kutumika katika maamuzi ya kijamii yenye matokeo makubwa kama vile uhalali wa ufadhili au wa makazi, uwezo wake wa kubagua unazua wasiwasi wa kimaadili. Utafiti unawasilisha njia inayotumia mfano wa lugha kuunda anuwai pana ya prompts zinazoweza kutumika katika hali 70 tofauti za maamuzi huku ikibadilisha kwa utaratibu taarifa za demografia katika kila moja. Bila vikatizi, mifumo ya ubaguzi wa chanya na wa hasi ilionekana katika baadhi ya mipangilio ndani ya Claude 2.0, na uhandisi makini wa prompts ulipunguza kwa kiwango kikubwa zote mbili; seti ya data na prompts zimetolewa kwa umma.