KI und die schwierigen Probleme der Welt · Theoretische Informatik · Anthropic · 2026-09-28
Messung der Faithfulness beim Chain-of-Thought-Reasoning
Originaltitel: Measuring faithfulness in Chain-of-Thought reasoning
Die Studie fragt, ob Chain-of-Thought-Reasoning den tatsächlichen Entscheidungsprozess eines Modells widerspiegelt. Die Autoren griffen in das Reasoning ein, etwa indem sie Fehler einfügten oder es umformulierten, und prüften, wie sich die Vorhersagen änderten. Die Faithfulness variierte je nach Aufgabe und nahm bei den meisten untersuchten Aufgaben ab, je größer und leistungsfähiger die Modelle wurden.