الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · arXiv · 2026-10-21

التعلم الاتحادي مع ضجيج التدرج ذي الذيل الثقيل وضجيج الاتصال: خوارزمية قائمة على تقليل التباين

العنوان الأصلي: Federated learning with heavy-tailed gradient noise and communication noise: a variance-reduction based algorithm

يتيح التعلم الاتحادي للأجهزة المحلية تدريب نموذج عالمي بشكل مشترك مع إبقاء البيانات لامركزية وخاصة، لكن ضجيج التدرج ذي الذيل الثقيل وضجيج الاتصال منتشران في التعلم الآلي واسع النطاق عبر الشبكات اللاسلكية ونشرات إنترنت الأشياء. تطبِّق الخوارزمية المقترحة، VRA-FedSGD، تقليل التباين بالزخم مع تخطيط غير خطي للتخفيف من ضجيج التدرج ذي الذيل الثقيل، وتستخدم آلية تجميع مخفَّضة التباين لكبح ضجيج الاتصال ذي الذيل الثقيل. يستنتج المؤلفون معدلات التقارب لأهداف غير محدبة ومحدبة بقوة، وتؤكد التجارب المحاكاة على الانحدار اللوجستي ببيانات من العالم الحقيقي فعاليته.

اقرأ المصدر الأصلي ↗

جميع العناصر →