AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · arXiv · 2026-10-21

OPLoRA: Orthogonal Projection LoRA প্যারামিটার-দক্ষ ফাইন-টিউনিং চলাকালীন ক্যাটাস্ট্রফিক ফরগেটিং প্রতিরোধ করে

মূল শিরোনাম: OPLoRA: Orthogonal Projection LoRA Prevents Catastrophic Forgetting during Parameter-Efficient Fine-Tuning

Low-Rank Adaptation (LoRA) বড় ভাষা মডেলের দক্ষ ফাইন-টিউনিং সম্ভব করে তোলে, কিন্তু শেখা আপডেটগুলো প্রি-ট্রেইনড জ্ঞান এনকোডকারী প্রধান সিঙ্গুলার দিকগুলোর সাথে হস্তক্ষেপ করলে ক্যাটাস্ট্রফিক ফরগেটিংয়ের সম্মুখীন হয়। প্রস্তাবিত OPLoRA SVD-এর মাধ্যমে ফ্রোজেন ওয়েটগুলো বিয়োজন করে এবং দ্বিপাক্ষিক অর্থোগোনাল প্রজেকশন ব্যবহার করে LoRA আপডেটগুলোকে top-k সিঙ্গুলার সাবস্পেসের অর্থোগোনাল কমপ্লিমেন্টের মধ্যে সম্পূর্ণভাবে অবস্থান করতে বাধ্য করে, এবং প্রমাণ করে যে এই গঠনটি top-k সিঙ্গুলার ট্রিপলগুলো হুবহু সংরক্ষণ করে। এটি ρ_k-ও উপস্থাপন করে—যা সাবস্পেস হস্তক্ষেপ পরিমাপের একটি মেট্রিক—এবং কমনসেন্স রিজনিং, গণিত ও কোড জেনারেশনের পরীক্ষাগুলো দেখায় যে LLaMA-2 7B এবং Qwen2.5 7B-এ প্রতিযোগিতামূলক টাস্ক-নির্দিষ্ট কর্মক্ষমতা বজায় রেখে ফরগেটিং উল্লেখযোগ্যভাবে হ্রাস পেয়েছে।

মূল লেখা পড়ুন ↗

সব আইটেম →