ИИ и сложнейшие проблемы мира · Экономика и социальные науки · Anthropic · 2026-10-20
Оценка дискриминации в решениях языковых моделей
Оригинальное название: Evaluating discrimination in language model decisions
Поскольку языковые модели рассматриваются для применения в социально значимых решениях, таких как финансирование или право на жильё, их потенциальная дискриминация вызывает этические опасения. В исследовании представлен метод, в котором языковая модель используется для генерации широкого набора потенциальных промптов по 70 разнообразным сценариям принятия решений с систематическим варьированием демографической информации в каждом. Без вмешательств в Claude 2.0 в отдельных настройках наблюдались закономерности как положительной, так и отрицательной дискриминации, а тщательный промпт-инжиниринг значительно снизил и то и другое; датасет и промпты выложены в открытый доступ.