الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · arXiv · 2026-10-19

ديناميكيات التعلّم المتوسطة المقياس في الشبكات العصبية ذات العرض الواسع

العنوان الأصلي: Mesoscopic learning dynamics of extensive-width neural networks

تبحث هذه الدراسة في كيفية تعلّم النزول التدريجي العشوائي (SGD) للتمثيلات الداخلية في الشبكات العصبونية ذات الطبقتين التي يتزايد عرضها وبُعد مدخلاتها بالتناسب. ويختزل التقريب الغاوسي لتوزيع تداخلات السمات التعلم المبكر في عدد قليل من المتغيرات الجماعية التي تتتبع المكوّنين الخطي والتربيعي للهدف. ويفيد المؤلفون بأن تعلّم هذين المكوّنين يرشّح تقلبات التدرج ويسرّع تخصص السمات الفردية.

اقرأ المصدر الأصلي ↗

جميع العناصر →