L'IA face aux grands problèmes du monde · Informatique théorique · Anthropic · 2026-09-28
Mesurer la fidélité du raisonnement en chaîne de pensée
Titre original: Measuring faithfulness in Chain-of-Thought reasoning
L'étude cherche à savoir si le raisonnement en chaîne de pensée reflète le processus de décision réel d'un modèle. Les auteurs sont intervenus sur le raisonnement, par exemple en y ajoutant des erreurs ou en le paraphrasant, et ont vérifié comment les prédictions changeaient. La fidélité variait selon la tâche et, pour la plupart des tâches étudiées, elle diminuait à mesure que les modèles devenaient plus grands et plus performants.