衡量思維鏈推理的忠實度

原標題: Measuring faithfulness in Chain-of-Thought reasoning

本研究探討思維鏈推理是否反映模型實際的決策過程。作者對推理過程進行干預，例如加入錯誤或改寫內容，並檢視預測結果如何變化。忠實度因任務而異，且在所研究的大多數任務中，隨著模型變得更大、能力更強，忠實度反而下降。