AI और दुनिया की कठिन समस्याएँ · सैद्धांतिक कंप्यूटर विज्ञान · arXiv · 2026-10-22
सूचना सिद्धांत के माध्यम से चेन-ऑफ-थॉट मॉनिटरेबिलिटी का विश्लेषण और सुधार
मूल शीर्षक: Analyzing and Improving Chain-of-Thought Monitorability Through Information Theory
शोधकर्ताओं ने सूचना सिद्धांत का उपयोग यह विश्लेषण करने के लिए किया कि LLM-आधारित मॉनिटर रीज़निंग ट्रेस से आउटपुट के गुणों का पता कब लगा सकते हैं और क्या उनकी सटीकता को सीमित करता है। उन्होंने आउटपुट और चेन्स ऑफ थॉट के बीच पारस्परिक सूचना पर आधारित एक लेबल-मुक्त प्रशिक्षण ऑब्जेक्टिव प्रस्तावित किया। एकाधिक वातावरणों में, इसने मॉनिटर के विरुद्ध प्रशिक्षण के दौरान भी चेन-ऑफ-थॉट ऑब्फ़िस्केशन को रोका और जब कार्य रिवॉर्ड अपूर्ण रूप से निर्दिष्ट थे तब रिवॉर्ड हैकिंग को कम करने में मदद की।