AI dan Masalah-Masalah Sulit Dunia · Ilmu komputer teoretis · Anthropic · 2026-09-28
Mengukur kesetiaan (faithfulness) dalam penalaran Chain-of-Thought
Judul asli: Measuring faithfulness in Chain-of-Thought reasoning
Studi ini menanyakan apakah penalaran chain-of-thought mencerminkan proses pengambilan keputusan sebenarnya dari sebuah model. Para penulis mengintervensi penalaran tersebut, misalnya dengan menambahkan kesalahan atau memparafrasekannya, lalu memeriksa bagaimana prediksi berubah. Kesetiaan bervariasi menurut tugas, dan pada sebagian besar tugas yang dipelajari, kesetiaan menurun seiring model menjadi lebih besar dan lebih mampu.