AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · arXiv · 2026-10-20

ডায়নামিক্যাল ব্যাচিং: ক্লাস-সাইক্লিং প্রশিক্ষণ কীভাবে নিউরাল নেটওয়ার্কের অভ্যন্তরীণ গঠনকে রূপ দেয়

মূল শিরোনাম: Dynamical Batching: How Class-Cycling Training Shapes the Internal Structure of Neural Networks

লেখকেরা ডায়নামিক্যাল ব্যাচিং (DB) প্রবর্তন করেছেন, যা লস ও অপ্টিমাইজার অপরিবর্তিত রেখে প্রশিক্ষণের মিনি-ব্যাচে পর্যায়ক্রমে প্রতিটি ক্লাসকে গুরুত্ব দেয়, এবং এটিকে ইউনিফর্ম ক্লাস ব্যাচিংয়ের সঙ্গে তুলনা করেছেন। তিন-বাহুবিশিষ্ট স্পাইরালে, ইউনিফর্ম ব্যাচিংয়ের অধীনে যে সীমিত-সক্ষমতার MLP একটি স্তরে আটকে যায়, সেটি DB-এর অধীনে প্রশিক্ষণ ডেটার সঙ্গে খাপ খাইয়ে নেয়। CIFAR-10-এ, চ্যানেল-সংকুচিত একটি ResNet-10 এবং সীমিত-সক্ষমতার দ্বিতীয় একটি কনভোলিউশনাল নেটওয়ার্কের জন্য DB পরীক্ষার নির্ভুলতা সামান্য উন্নত করেছে।

মূল লেখা পড়ুন ↗

সব আইটেম →