arXiv cs.LG

適応的ステップサイズを用いた動的重み付きモメンタムによる効率的なディープネットワーク訓練

Dynamically Weighted Momentum with Adaptive Step Sizes for Efficient Deep Network Training

http://arxiv.org/abs/2510.25042v1


この論文では、ディープラーニングの最適化における課題に対処する新しいアルゴリズム「DWMGrad」を提案しています。従来の手法に基づき、過去のデータに依存した動的なガイダンスメカニズムを取り入れることで、モメンタムと学習率を動的に更新します。これにより、学習率の選択や高次元空間での局所最適解の回避が容易になり、複雑なモデルやフラクチュエーションに適応できる能力が向上します。実験結果では、DWMGradが従来の手法に比べて高速な収束率と高い精度を実現することが示されており、様々な訓練シナリオに柔軟に対応できることが確認されています。