AI na Matatizo Magumu ya Ulimwengu · Sayansi ya kompyuta ya kinadharia · arXiv · 2026-10-22
Kuchambua na Kuboresha Ufuatiliaji wa Chain-of-Thought kupitia Nadharia ya Habari
Kichwa asilia: Analyzing and Improving Chain-of-Thought Monitorability Through Information Theory
Watafiti walitumia nadharia ya taarifa kuchambua lini vifuatiliaji vinavyotegemea LLM vinaweza kubaini sifa za matokeo kutoka kwa nyayo za hoja na nini kinapunguza usahihi wao. Walipendekeza lengo la mafunzo lisilotumia lebo lililotegemea habari za pande mbili kati ya matokeo na mfululizo wa mawazo. Katika mazingira mengi, lilizuia ufichaji wa mfululizo wa mawazo hata wakati wa mafunzo dhidi ya kifuatiliaji na kusaidia kupunguza udanganyifu wa zawadi pale zinapotozwa za kazi zilipobainishwa kwa njia isiyo kamili.