AIが解く世界の難問 · 計算機科学の理論 · arXiv · 2026-10-22
情報理論による思考連鎖の監視可能性の分析と改善
原題: Analyzing and Improving Chain-of-Thought Monitorability Through Information Theory
LLMが推論過程を監視して問題のある出力を検出する仕組みについて、情報理論を用いて監視可能性の条件と誤差の要因を分析した。出力と思考連鎖の相互情報量に基づく、ラベル不要の学習目的を提案した。複数の環境で、監視を回避するように学習する場合でも思考連鎖の不明瞭化を防ぎ、課題の報酬設定が不完全な場合の報酬ハッキングを軽減した。