الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · arXiv · 2026-10-22

تحليل وتحسين قابلية مراقبة سلسلة التفكير Chain-of-Thought عبر نظرية المعلومات

العنوان الأصلي: Analyzing and Improving Chain-of-Thought Monitorability Through Information Theory

استخدم الباحثون نظرية المعلومات لتحليل الحالات التي تستطيع فيها المراقِبات المبنية على LLM اكتشاف سمات المخرجات من مسارات الاستدلال، وما الذي يحدّ من دقتها. واقترحوا هدفًا تدريبيًا خاليًا من التسميات يعتمد على المعلومات المتبادلة بين المخرجات وسلاسل التفكير. وعبر بيئات متعددة، حال هذا الهدف دون إخفاء سلسلة التفكير حتى أثناء التدريب في مواجهة مراقِب، وساعد في تقليل اختراق المكافأة عندما كانت مكافآت المهام محددة بشكل غير كامل.

اقرأ المصدر الأصلي ↗

جميع العناصر →