Intelligence SynthesisJAEN

ИИ и сложнейшие проблемы мира · Математика · arXiv · 2026-10-19

Оптимальная аппроксимация гладких функций нейронными сетями ReLU

Оригинальное название: Optimal approximation of smooth functions by ReLU neural networks

В статье изучается равномерная аппроксимация шаров Гёльдера полносвязными ReLU-сетями. За исключением одномерного липшицева случая, существующие конструкции не достигали информационно-теоретического предела эффективности. Авторы показывают, что сети с шириной O(N), глубиной O(L) и величиной параметров O(1) достигают ошибки порядка (N^2 L^2 log N)^(-s/D) для всех s>0 и D≥1, а минимизаторы эмпирического риска по соответствующим классам усечённых сетей достигают минимаксной скорости регрессии n^(-2s/(2s+D)) без дополнительных логарифмических множителей.

Читать оригинал ↗

Все материалы →