AI 與世界的難題 · 經濟學與社會科學 · Anthropic · 2026-10-20
評估語言模型決策中的歧視
原標題: Evaluating discrimination in language model decisions
隨著語言模型被考慮用於融資或住宅資格等高風險的社會決策,其潛在的歧視問題引發倫理疑慮。本研究提出一種方法,利用語言模型在 70 個多元的決策情境中產生大量潛在提示詞,同時系統性地變換每個情境中的人口統計資訊。在未採取介入措施的情況下,Claude 2.0 在部分設定中出現正向與負向歧視的模式,而謹慎的提示工程顯著降低了兩者;資料集與提示詞均已公開釋出。