الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · arXiv · 2026-10-22
خوارزمية تعلم معزز مستمرة الزمن خالية من النموذج من بيانات منفصلة الزمن خارج السياسة مع ضمانات من طرف إلى طرف
العنوان الأصلي: A Model-Free Continuous-Time RL Algorithm from Discrete-Time Off-Policy Data with End-to-End Guarantees

تتناول الورقة التعلم المعزز بالزمن المستمر حيث تتبع الحالة معادلة تفاضلية عشوائية مجهولة، غير أنه لا يتوفر سوى دفعة ثابتة خارج السياسة من الانتقالات متقطعة الزمن. وبالبناء على صياغة PhiBE-Q، تُطوّر الورقة إطار تكرار سياسة PhiBE خاليًا من النموذج (PhiBE-PI) يتعلّم ناقدًا واحدًا للحالة-الإجراء مباشرة من الزيادات المُعايَنة، محسّنًا السياسة مع إعادة استخدام الدفعة نفسها طوال العملية ودون تقدير صريح للانحراف أو الانتشار. وفي ظل التقريب الخطي للدوال، يثبت المؤلفون ضمانًا محليًا لعدم الأمثلية من طرف إلى طرف يحدّد كيفية انتشار أخطاء التقطيع والتقريب والعينات المحدودة، ويحددون مقايضة بين الانحياز والتباين بموجبها لا يؤدي التقطيع الزمني الأدق بالضرورة إلى تحسين أداء السياسة.