AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · arXiv · 2026-10-22

তথ্য তত্ত্বের মাধ্যমে Chain-of-Thought পর্যবেক্ষণযোগ্যতা বিশ্লেষণ ও উন্নয়ন

মূল শিরোনাম: Analyzing and Improving Chain-of-Thought Monitorability Through Information Theory

গবেষকরা তথ্যতত্ত্ব ব্যবহার করে বিশ্লেষণ করেছেন, কখন LLM-ভিত্তিক মনিটর reasoning trace থেকে আউটপুটের বৈশিষ্ট্যগুলো শনাক্ত করতে পারে এবং কোন বিষয়গুলো তাদের নির্ভুলতা সীমিত করে। তাঁরা আউটপুট ও chain-of-thought-এর মধ্যে পারস্পরিক তথ্যের ভিত্তিতে একটি label-free প্রশিক্ষণ উদ্দেশ্য প্রস্তাব করেন। একাধিক পরিবেশে এটি chain-of-thought obfuscation প্রতিরোধ করেছে—এমনকি একটি মনিটরের বিরুদ্ধে প্রশিক্ষণ চলাকালীনও—এবং টাস্কের রিওয়ার্ড অসম্পূর্ণভাবে নির্দিষ্ট হলে reward hacking হ্রাস করতে সাহায্য করেছে।

মূল লেখা পড়ুন ↗

সব আইটেম →