AIが解く世界の難問 · 計算機科学の理論 · arXiv · 2026-10-22
畳み込みニューラルネットワークにおける局所性と重み共有の役割
原題: The role of locality and weight sharing in convolutional neural networks
畳み込みニューラルネットワークの局所性と重み共有が学習に与える影響を分けて調べるため、教師・生徒モデルで畳み込み型と局所結合型の学習過程を比較し、そのダイナミクスを解析した。入力位置間に相関がない場合は重み共有によって学習が速まり、教師とカーネルサイズを合わせると必要なサンプル数が減ったが、空間相関は重み共有の利点を弱め得ることが分かった。学習期間に合わせて学習率を調整すると、初期は局所結合型、後期は畳み込み型が優位になった。