IA e os Problemas Difíceis do Mundo · Ciência da computação teórica · arXiv · 2026-10-22
Analisando e aprimorando a monitorabilidade da cadeia de raciocínio (Chain-of-Thought) por meio da teoria da informação
Título original: Analyzing and Improving Chain-of-Thought Monitorability Through Information Theory
Os pesquisadores usaram a teoria da informação para analisar quando monitores baseados em LLMs podem detectar atributos das saídas a partir de traços de raciocínio e o que limita sua precisão. Eles propuseram um objetivo de treinamento sem rótulos baseado na informação mútua entre saídas e cadeias de pensamento. Em vários ambientes, ele impediu a ofuscação da cadeia de pensamento mesmo durante o treinamento contra um monitor e ajudou a reduzir o reward hacking quando as recompensas das tarefas eram especificadas de forma imperfeita.