AI dan Masalah-Masalah Sulit Dunia · Ekonomi & ilmu sosial · Anthropic · 2026-10-20
Mengevaluasi diskriminasi dalam keputusan model bahasa
Judul asli: Evaluating discrimination in language model decisions
Ketika model bahasa dipertimbangkan untuk keputusan sosial yang berisiko tinggi seperti kelayakan pembiayaan atau perumahan, potensi diskriminasi mereka menimbulkan kekhawatiran etis. Studi ini menyajikan metode yang menggunakan model bahasa untuk menghasilkan berbagai calon prompt di 70 skenario keputusan yang beragam sambil memvariasikan informasi demografis pada masing-masing secara sistematis. Tanpa intervensi, pola diskriminasi positif maupun negatif muncul pada beberapa pengaturan tertentu di Claude 2.0, dan rekayasa prompt yang cermat mengurangi keduanya secara signifikan; dataset dan prompt dirilis.