AI与世界难题 · 经济学与社会科学 · Anthropic · 2026-10-20
评估语言模型决策中的歧视
原标题: Evaluating discrimination in language model decisions
当语言模型被考虑用于融资或住房资格等高风险社会决策时，其潜在的歧视问题引发了伦理上的担忧。该研究提出了一种方法，利用语言模型在70个不同的决策场景中生成大量可能的提示词，同时系统性地改变每个提示词中的人口统计信息。在没有干预的情况下，Claude 2.0在某些设置中出现了正向与负向歧视的模式，而精心设计的提示工程显著减少了这两种现象；相关数据集和提示词已公开发布。