La IA y los problemas difíciles del mundo · Economía y ciencias sociales · Anthropic · 2026-10-20
Evaluación de la discriminación en las decisiones de los modelos de lenguaje
Título original: Evaluating discrimination in language model decisions
A medida que se consideran los modelos de lenguaje para decisiones sociales de alto riesgo, como la financiación o la elegibilidad de vivienda, su potencial de discriminación plantea preocupaciones éticas. El estudio presenta un método que utiliza un modelo de lenguaje para generar una amplia gama de posibles prompts en 70 escenarios de decisión diversos, variando sistemáticamente la información demográfica en cada uno. Sin intervenciones, aparecieron patrones de discriminación tanto positiva como negativa en ciertos entornos en Claude 2.0, y una cuidadosa ingeniería de prompts redujo significativamente ambos; el conjunto de datos y los prompts se hacen públicos.