AI और दुनिया की कठिन समस्याएँ · सैद्धांतिक कंप्यूटर विज्ञान · arXiv · 2026-10-23
वितरण बेमेल के तहत ऑन-पॉलिसी पॉलिसी ग्रेडिएंट विधियों का विश्लेषण
मूल शीर्षक: Analysis of On-policy Policy Gradient Methods under the Distribution Mismatch

कई अत्याधुनिक पॉलिसी ग्रेडिएंट विधियाँ अपडेट की दिशाओं का अनुमान ऐसे सैंपलिंग वितरण से लगाती हैं जो पॉलिसी ग्रेडिएंट प्रमेय द्वारा अपेक्षित डिस्काउंटेड स्टेट वितरण से भिन्न होता है। यह अध्ययन विश्लेषण करता है कि यह वितरण बेमेल इन विधियों को कैसे प्रभावित करता है, और सारणीबद्ध डायरेक्ट तथा सॉफ्टमैक्स पैरामीटराइजेशन के लिए पक्षपातपूर्ण अपडेट के तहत उद्देश्य मानों का वैश्विक अभिसरण दर्शाता है। यह इस बात का स्पष्ट मानदंड भी देता है कि बेमेल अनंतस्पर्शी अभिसरण को तेज करता है या धीमा, और सीमाओं को अधिक सामान्य पॉलिसी पैरामीटराइजेशन तक विस्तारित करता है।