KI und die schwierigen Probleme der Welt · Wirtschafts- & Sozialwissenschaften · Anthropic · 2026-10-20
Bewertung von Diskriminierung in Entscheidungen von Sprachmodellen
Originaltitel: Evaluating discrimination in language model decisions
Wenn Sprachmodelle für gesellschaftliche Entscheidungen mit hohen Einsätzen wie Finanzierung oder Wohnberechtigung in Betracht gezogen werden, wirft ihr Diskriminierungspotenzial ethische Bedenken auf. Die Studie stellt eine Methode vor, die ein Sprachmodell nutzt, um eine breite Palette potenzieller Prompts über 70 unterschiedliche Entscheidungsszenarien hinweg zu generieren, während die demografischen Angaben in jedem davon systematisch variiert werden. Ohne Gegenmaßnahmen zeigten sich in ausgewählten Einstellungen bei Claude 2.0 Muster sowohl positiver als auch negativer Diskriminierung, und sorgfältiges Prompt-Engineering reduzierte beide erheblich; der Datensatz und die Prompts werden veröffentlicht.