L'IA face aux grands problèmes du monde · Informatique théorique · arXiv · 2026-10-21
AURA : adaptation de la vitesse de mise à jour angulaire pour l'entraînement de réseaux de neurones à valeurs complexes
Titre original: AURA: Angular Update Rate Adaptation for training complex-valued neural networks
Les réseaux de neurones à valeurs complexes sont souvent entraînés avec des optimiseurs du premier ordre hérités du cas réel, dont les règles de pas d'apprentissage ignorent l'information angulaire disponible dans le plan complexe. AURA est une adaptation du pas d'apprentissage par paramètre qui peut être ajoutée à tout optimiseur du premier ordre : elle mesure la concordance entre mises à jour successives de chaque paramètre complexe en longueur, en alignement et en sens de rotation, en augmentant le pas lorsqu'elles sont cohérentes et en le réduisant dans le cas contraire, sans évaluation de gradient supplémentaire. Combinée avec Adam et Muon et comparée sur quatre cas de test de complexité croissante, elle a amélioré la convergence de son optimiseur de base dans la plupart des cas, avec une faible surcharge par étape, et les conditions dans lesquelles elle échoue ont été identifiées.