AIが解く世界の難問 · 経済学・社会科学 · Anthropic · 2026-10-20
言語モデルの意思決定における差別の評価
原題: Evaluating discrimination in language model decisions
言語モデルを融資や住宅の適格性判定など社会的に重要な意思決定に応用する動きが広まる中、差別的挙動のリスク評価が課題となっている。この研究では、言語モデルを使って70の多様な意思決定シナリオにわたる想定プロンプトを生成し、人口統計情報を系統的に変化させることで差別的影響を事前に評価する手法を提案した。介入なしのClaude 2.0では一部の設定で正負両方の差別パターンが見られたが、慎重なプロンプトエンジニアリングにより両方の差別を大幅に低減できることを示し、データセットとプロンプトを公開した。