AI اور دنیا کے مشکل مسائل · نظریاتی کمپیوٹر سائنس · arXiv · 2026-10-22

نظریۂ اطلاعات کے ذریعے Chain-of-Thought کی نگرانی کے قابل ہونے کا تجزیہ اور بہتری

اصل عنوان: Analyzing and Improving Chain-of-Thought Monitorability Through Information Theory

محققین نے معلوماتی نظریے (Information Theory) کا استعمال کرتے ہوئے تجزیہ کیا کہ LLM پر مبنی مانیٹرز کب استدلال کے نشانات (reasoning traces) سے آؤٹ پٹس کی خصوصیات کی شناسائی کر سکتے ہیں اور ان کی درستگی کی حدود کیا ہیں۔ انہوں نے آؤٹ پٹس اور سوچ کے سلسلوں (chains of thought) کے درمیان باہمی معلومات پر مبنی ایک label-free تربیتی مقصد تجویز کیا۔ متعدد ماحولات میں اس نے مانیٹر کے خلاف تربیت کے دوران بھی سوچ کے سلسلے کو مبہم بنانا (chain-of-thought obfuscation) روکا اور جب کام کے انعامات نامکمل طور پر متعین ہوں تو انعام کی چالبازی (reward hacking) کم کرنے میں مدد دی۔

اصل تحریر پڑھیں ↗

تمام آئٹمز →