L'IA face aux grands problèmes du monde · Informatique théorique · arXiv · 2026-10-22
Le rôle de la localité et du partage de poids dans les réseaux de neurones convolutifs
Titre original: The role of locality and weight sharing in convolutional neural networks
Des chercheurs ont comparé des étudiants convolutifs et à connexions locales dans un modèle enseignant-étudiant afin de séparer les effets de la localité, du partage de poids et des corrélations spatiales sur l'apprentissage. Le partage de poids a accéléré l'apprentissage pour les positions d'entrée non corrélées, tandis que l'alignement sur la taille du noyau de l'enseignant réduisait les besoins en échantillons ; les corrélations spatiales pouvaient affaiblir l'avantage du partage de poids. Avec des taux d'apprentissage ajustés à l'horizon d'entraînement, les étudiants à connexions locales ont obtenu de meilleurs résultats au début et les étudiants convolutifs ont mieux performé plus tard.