ИИ и сложнейшие проблемы мира · Теоретическая информатика · Anthropic · 2026-09-28
Измерение достоверности рассуждений по цепочке мыслей
Оригинальное название: Measuring faithfulness in Chain-of-Thought reasoning
Исследование задаётся вопросом, отражает ли рассуждение по цепочке мыслей реальный процесс принятия решений моделью. Авторы вмешивались в рассуждение, например добавляя ошибки или перефразируя его, и проверяли, как менялись предсказания. Достоверность различалась в зависимости от задачи, а в большинстве изученных задач снижалась по мере того, как модели становились крупнее и мощнее.