AI اور دنیا کے مشکل مسائل · نظریاتی کمپیوٹر سائنس · arXiv · 2026-10-21
ڈسکریٹ ڈیٹا سے مسلسل وقت کی پالیسی گریڈیئنٹ: کنورجنس کا تجزیہ اور ماڈل فری الگورتھم
اصل عنوان: Continuous-Time Policy Gradient from Discrete Data: Convergence Analysis and Model-Free Algorithms

مسلسل وقت کی ری انفورسمنٹ لرننگ تصادفی تفریقی مساوات کے تابع نامعلوم ڈائنامکس کے تحت بہترین پالیسی کی تلاش کرتی ہے، جس کے لیے ڈسکریٹ اوقات پر جمع کیے گئے مشاہدات استعمال کیے جاتے ہیں۔ مصنفین سخت کنورجنس تجزیے کے ساتھ پالیسی گریڈیئنٹ کا ایک فریم ورک ترتیب دیتے ہیں، جس میں پرفارمنس ڈفرنس لمہ اور randomized اور parametrized پالیسیوں کے لیے پالیسی گریڈیئنٹ فارمولے، اینٹروپی ریگولرائزڈ پالیسی فلو کی ایکسپونینشل کنورجنس، اور ایک ڈسکریٹ اپڈیٹ کی حد شامل ہے جو کریٹک کی غلطی، پالیسی ریگریشن کی غلطی اور لرننگ اسٹیپ سائز کو واضح طور پر الگ کرتی ہے۔ اس فریم ورک کو PhiBE (جو ڈسکریٹ ٹرانزیشن ڈیٹا سے مسلسل وقت کا سرروگیٹ جنریٹر بناتا ہے) کے ساتھ ضم کرنے سے ماڈل فری آن پالیسی اور آف پالیسی ایکٹر کریٹک الگورتھم حاصل ہوتے ہیں، جن کی کارکردگی اور استحکام اینٹروپی ریگولرائزڈ لینیئر کواڈریٹک ریگولیٹر اور ایک نان لینیئر وہیلڈ روبوٹ پر ظاہر کیے گئے ہیں۔