AIが解く世界の難問 · 計算機科学の理論 · Anthropic · 2026-09-28
Chain-of-Thought推論の忠実性の測定
原題: Measuring faithfulness in Chain-of-Thought reasoning
Chain-of-Thought（段階的な推論）の記述が、モデルの実際の判断過程をどこまで反映しているかを調べた。推論に誤りを加えたり言い換えたりして予測の変化を見たところ、タスクによって推論への依存度は大きく異なった。さらに多くのタスクで、モデルが大きく高性能になるほど忠実性の低い推論を示す傾向が見られた。