AI اور دنیا کے مشکل مسائل · نظریاتی کمپیوٹر سائنس · arXiv · 2026-10-19

وسیع چوڑائی والے نیورل نیٹ ورکس کی میسوسکوپک سیکھنے کی حرکیات

اصل عنوان: Mesoscopic learning dynamics of extensive-width neural networks

یہ مطالعہ جانچتا ہے کہ اسٹاکاسٹک گریڈیئنٹ ڈیسینٹ دو تہوں والے نیورل نیٹ ورکس میں اندرونی نمائندگیاں کیسے سیکھتا ہے، جن کی چوڑائی اور ان پٹ ڈائمینشن متناسب طور پر بڑھتی ہیں۔ فیچر اوورلیپس کی تقسیم کا گاؤسی تخمینہ ابتدائی سیکھنے کو چند اجتماعی متغیرات تک محدود کر دیتا ہے جو ہدف کے خطی اور دو درجی اجزا کو ٹریک کرتے ہیں۔ مصنفین بتاتے ہیں کہ ان اجزا کو سیکھنا گریڈیئنٹ کے اتار چڑھاؤ کو چھانتا ہے اور انفرادی فیچرز کی مہارت یابی کو تیز کرتا ہے۔

اصل تحریر پڑھیں ↗

تمام آئٹمز →