AIが解く世界の難問 · 計算機科学の理論 · arXiv · 2026-10-21
裾の重い勾配ノイズと通信ノイズを伴う連合学習：分散削減に基づくアルゴリズム
原題: Federated learning with heavy-tailed gradient noise and communication noise: a variance-reduction based algorithm
データを分散・非公開のまま各端末が協調して大域モデルを学習する連合学習では、無線ネットワークやIoT上の大規模機械学習で裾の重い勾配ノイズや通信ノイズが広く生じる。提案手法VRA-FedSGDは、モーメンタムによる分散削減と非線形写像で裾の重い勾配ノイズを緩和し、分散削減型の集約機構で通信ノイズを抑制する。非凸および強凸の目的関数に対する収束率の理論解析を示し、実データを用いたロジスティック回帰のシミュレーション実験で有効性を確認した。