La IA y los problemas difíciles del mundo · Informática teórica · Anthropic · 2026-09-28
Medición de la fidelidad en el razonamiento de cadena de pensamiento
Título original: Measuring faithfulness in Chain-of-Thought reasoning
El estudio se pregunta si el razonamiento de cadena de pensamiento refleja el proceso de decisión real de un modelo. Los autores intervinieron en el razonamiento, por ejemplo añadiendo errores o parafraseándolo, y comprobaron cómo cambiaban las predicciones. La fidelidad varió según la tarea y, en la mayoría de las tareas estudiadas, disminuyó a medida que los modelos se hacían más grandes y más capaces.