Intelligence SynthesisJAEN

L'IA face aux grands problèmes du monde · Mathématiques · arXiv · 2026-10-19

Approximation optimale de fonctions lisses par des réseaux de neurones ReLU

Titre original: Optimal approximation of smooth functions by ReLU neural networks

Cet article étudie l'approximation uniforme des boules de Hölder par des réseaux ReLU entièrement connectés. À l'exception du cas lipschitzien unidimensionnel, les constructions existantes n'atteignaient pas la limite d'efficacité théorique de l'information. Les auteurs montrent que des réseaux de largeur O(N), de profondeur O(L) et de magnitude des paramètres O(1) atteignent une erreur d'ordre (N^2 L^2 log N)^(-s/D) pour tout s>0 et D≥1, et que les minimiseurs du risque empirique sur les classes de réseaux écrêtés correspondantes atteignent le taux de régression minimax n^(-2s/(2s+D)) sans facteurs logarithmiques supplémentaires.

Lire l'original ↗

Tous les éléments →