AI और दुनिया की कठिन समस्याएँ · सैद्धांतिक कंप्यूटर विज्ञान · arXiv · 2026-10-21

OPLoRA: ऑर्थोगोनल प्रोजेक्शन LoRA पैरामीटर-कुशल फ़ाइन-ट्यूनिंग के दौरान कैटास्ट्रॉफ़िक फ़ॉरगेटिंग को रोकता है

मूल शीर्षक: OPLoRA: Orthogonal Projection LoRA Prevents Catastrophic Forgetting during Parameter-Efficient Fine-Tuning

लो-रैंक अडैप्टेशन (LoRA) बड़े भाषा मॉडलों का कुशल फ़ाइन-ट्यूनिंग सक्षम बनाता है, परंतु जब सीखे गए अपडेट पूर्व-प्रशिक्षित ज्ञान को एनकोड करने वाली प्रमुख सिंगुलर दिशाओं में हस्तक्षेप करते हैं तो यह कैटास्ट्रॉफ़िक फ़ॉरगेटिंग से ग्रस्त हो जाता है। प्रस्तावित OPLoRA SVD द्वारा फ़्रोज़न वेट्स का विघटन करता है और दो-तरफ़ा ऑर्थोगोनल प्रोजेक्शनों का उपयोग करके LoRA अपडेट्स को पूर्णतः top-k सिंगुलर सबस्पेस के ऑर्थोगोनल कॉम्प्लीमेंट के भीतर स्थित रहने के लिए बाध्य करता है, तथा यह सिद्ध करता है कि यह संरचना top-k सिंगुलर ट्रिपल्स को सटीक रूप से संरक्षित करती है। यह सबस्पेस हस्तक्षेप को परिमाणित करने के लिए ρ_k मीट्रिक भी प्रस्तुत करता है, और कॉमनसेंस रीज़निंग, गणित तथा कोड जनरेशन पर हुए प्रयोग दर्शाते हैं कि LLaMA-2 7B और Qwen2.5 7B पर प्रतिस्पर्धी कार्य-विशिष्ट प्रदर्शन बनाए रखते हुए विस्मरण में महत्वपूर्ण कमी आती है।

मूल लेख पढ़ें ↗

सभी आइटम →