AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · arXiv · 2026-10-21

হেভি-টেইলড গ্রেডিয়েন্ট নয়েজ ও কমিউনিকেশন নয়েজ সহ ফেডারেটেড লার্নিং: একটি ভ্যারিয়েন্স-রিডাকশন ভিত্তিক অ্যালগরিদম

মূল শিরোনাম: Federated learning with heavy-tailed gradient noise and communication noise: a variance-reduction based algorithm

ফেডারেটেড লার্নিং স্থানীয় ডিভাইসগুলোকে ডেটাকে বিকেন্দ্রীভূত ও গোপনীয় রেখে যৌথভাবে একটি গ্লোবাল মডেল প্রশিক্ষণ দিতে দেয়, কিন্তু ওয়্যারলেস নেটওয়ার্ক ও IoT ডিপ্লয়মেন্টের ওপর বৃহৎ-স্কেল মেশিন লার্নিং-এ হেভি-টেইলড গ্রেডিয়েন্ট নয়েজ ও কমিউনিকেশন নয়েজ ব্যাপকভাবে দেখা যায়। প্রস্তাবিত অ্যালগরিদম VRA-FedSGD হেভি-টেইলড গ্রেডিয়েন্ট নয়েজ প্রশমিত করতে একটি অরৈখিক ম্যাপিং সহ মোমেন্টাম ভ্যারিয়েন্স রিডাকশন প্রয়োগ করে, এবং হেভি-টেইলড কমিউনিকেশন নয়েজ দমনে একটি ভ্যারিয়েন্স-হ্রাসকৃত অ্যাগ্রিগেশন প্রক্রিয়া ব্যবহার করে। লেখকরা ননকনভেক্স এবং স্ট্রংলি কনভেক্স অবজেক্টিভের জন্য কনভার্জেন্স হার প্রতিপাদন করেছেন, এবং বাস্তব-বিশ্বের ডেটা দিয়ে লজিস্টিক রিগ্রেশনে করা সিমুলেটেড পরীক্ষাগুলো এর কার্যকারিতা যাচাই করে।

মূল লেখা পড়ুন ↗

সব আইটেম →