IA e os Problemas Difíceis do Mundo · Economia e ciências sociais · Anthropic · 2026-10-20
Avaliando a discriminação em decisões de modelos de linguagem
Título original: Evaluating discrimination in language model decisions
À medida que modelos de linguagem são considerados para decisões sociais de alto risco, como financiamento ou elegibilidade habitacional, seu potencial de discriminação levanta preocupações éticas. O estudo apresenta um método que usa um modelo de linguagem para gerar uma ampla gama de prompts potenciais em 70 cenários de decisão diversos, variando sistematicamente as informações demográficas em cada um. Sem intervenções, padrões de discriminação tanto positiva quanto negativa apareceram em cenários selecionados no Claude 2.0, e uma engenharia de prompts cuidadosa reduziu significativamente ambos; o conjunto de dados e os prompts são disponibilizados.