L'IA face aux grands problèmes du monde · Économie et sciences sociales · Anthropic · 2026-10-20
Évaluer la discrimination dans les décisions des modèles de langage
Titre original: Evaluating discrimination in language model decisions
Alors que les modèles de langage sont envisagés pour des décisions sociétales à enjeux élevés, telles que l'éligibilité à un financement ou à un logement, leur potentiel de discrimination soulève des préoccupations éthiques. L'étude présente une méthode qui utilise un modèle de langage pour générer un large éventail de prompts potentiels couvrant 70 scénarios de décision variés, tout en faisant varier systématiquement les informations démographiques dans chacun. Sans intervention, des schémas de discrimination à la fois positive et négative sont apparus dans certains contextes avec Claude 2.0, et une ingénierie minutieuse des prompts a considérablement réduit les deux ; le jeu de données et les prompts sont publiés.