L'IA face aux grands problèmes du monde · Informatique théorique · arXiv · 2026-10-26
Les réseaux de neurones deviennent des classifieurs à centroïdes lorsqu'ils sont entraînés sur des entrées fortement corrompues
Titre original: Neural networks become centroid classifiers when trained on heavily corrupted inputs
Les auteurs étudient le bruit d'attributs, où les entrées sont corrompues tandis que les étiquettes restent intactes, et constatent que les MLP conservent une précision bien supérieure au hasard même lorsque plus de 90 % des entrées sont corrompues. En analysant des réseaux de largeur infinie avec une approche inspirée du champ moyen, ils montrent que le réseau agit comme un classifieur à moyenne de classe la plus proche, qui assigne chaque point de test à la classe dont la moyenne d'entraînement lui ressemble le plus, une règle valable quels que soient la profondeur, les fonctions d'activation et les distributions de bruit. Le même mécanisme de centroïde correspond au comportement en largeur finie et explique pourquoi l'apprentissage peut réussir même lorsque les exemples d'entraînement individuels ne portent presque aucun signal.