AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · arXiv · 2026-10-19

বিস্তৃত-প্রস্থ নিউরাল নেটওয়ার্কের মেসোস্কোপিক শেখার গতিবিদ্যা

মূল শিরোনাম: Mesoscopic learning dynamics of extensive-width neural networks

এই গবেষণায় পরীক্ষা করা হয়েছে কীভাবে স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট দ্বি-স্তরবিশিষ্ট নিউরাল নেটওয়ার্কে অভ্যন্তরীণ উপস্থাপনা শেখে, যেখানে প্রস্থ ও ইনপুট মাত্রা সমানুপাতে বাড়ে। ফিচার ওভারল্যাপের বণ্টনের একটি গাউসীয় আসন্নকরণ প্রাথমিক শেখাকে লক্ষ্যের রৈখিক ও দ্বিঘাত উপাদান অনুসরণকারী কয়েকটি সমষ্টিগত চলকে সীমিত করে আনে। লেখকেরা জানিয়েছেন যে এই উপাদানগুলো শেখা গ্রেডিয়েন্টের ওঠানামা ছেঁকে ফেলে এবং স্বতন্ত্র ফিচারগুলোর বিশেষায়ন ত্বরান্বিত করে।

মূল লেখা পড়ুন ↗

সব আইটেম →