arXiv cs.LG

ビザンチン攻撃者に対するネステロフ加速ロバストフェデレーテッドラーニング

Nesterov-Accelerated Robust Federated Learning Over Byzantine Adversaries

http://arxiv.org/abs/2511.02657v1


この記事では、ロバストなフェデレーテッドラーニングを提案しています。これは、複数の作業者がビザンチン攻撃者の存在下で共同でモデルをトレーニングする方法です。この攻撃者は任意かつ潜在的に悪意のある行動を取ります。筆者たちは、通信効率と攻撃者に対するロバスト性を同時に向上させるために、「Byrd-NAFL」というビザンチン耐性のあるネステロフ加速フェデレーテッドラーニングアルゴリズムを開発しました。このアルゴリズムは、ネステロフのモーメンタムをフェデレーテッドラーニングプロセスに統合し、ビザンチン耐性のある集約ルールと共に、勾配の腐敗に対して迅速かつ安全に収束することを目指します。また、非凸で滑らかな損失関数の下での有限時間収束保証も確立されており、Numerical ExperimentsによってByrd-NAFLの有効性が確認され、収束速度、精度、様々なビザンチン攻撃戦略に対する耐性の点で既存のベンチマークを上回ることが示されています。