AI 與世界的難題 · 理論資訊科學 · arXiv · 2026-10-22
局部性與權重共享在卷積神經網路中的角色
原標題: The role of locality and weight sharing in convolutional neural networks
研究人員在師生模型中比較卷積與局部連接的學生網路，以分離局部性、權重共享與空間相關性對學習的影響。權重共享加速了輸入位置間不相關時的學習，而使核大小與教師相符則降低了樣本需求；空間相關性可能會削弱權重共享的優勢。在學習率針對訓練時程調校的情況下，局部連接的學生網路在早期表現較佳，卷積學生網路則在後期表現較好。