IA e os Problemas Difíceis do Mundo · Ciência da computação teórica · arXiv · 2026-10-21
Aprendizado federado com ruído de gradiente de cauda pesada e ruído de comunicação: um algoritmo baseado em redução de variância
Título original: Federated learning with heavy-tailed gradient noise and communication noise: a variance-reduction based algorithm
O aprendizado federado permite que dispositivos locais treinem conjuntamente um modelo global, mantendo os dados descentralizados e privados, mas o ruído de gradiente de cauda pesada e o ruído de comunicação são prevalentes no aprendizado de máquina em larga escala sobre redes sem fio e implantações de IoT. O algoritmo proposto, VRA-FedSGD, aplica redução de variância via momentum com um mapeamento não linear para mitigar o ruído de gradiente de cauda pesada e usa um mecanismo de agregação com variância reduzida para suprimir o ruído de comunicação de cauda pesada. Os autores derivam taxas de convergência para objetivos não convexos e fortemente convexos, e experimentos simulados em regressão logística com dados do mundo real verificam sua eficácia.