KI und die schwierigen Probleme der Welt · Mathematik · arXiv · 2026-10-19
Optimale Approximation glatter Funktionen durch ReLU-Neuronale-Netze
Originaltitel: Optimal approximation of smooth functions by ReLU neural networks
Diese Arbeit untersucht die gleichmäßige Approximation von Hölder-Kugeln durch vollständig verbundene ReLU-Netze. Mit Ausnahme des eindimensionalen Lipschitz-Falls blieben bestehende Konstruktionen hinter der informationstheoretischen Effizienzgrenze zurück. Die Autoren zeigen, dass Netze mit Breite O(N), Tiefe O(L) und Parametergröße O(1) für alle s>0 und D≥1 einen Fehler der Ordnung (N^2 L^2 log N)^(-s/D) erreichen und dass Empirical-Risk-Minimizer über den entsprechenden beschnittenen Netzklassen die Minimax-Regressionsrate n^(-2s/(2s+D)) ohne zusätzliche logarithmische Faktoren erzielen.