この記事では、Adamアルゴリズムの改善版であるAdamXについて述べています。Adamは、高次元の最適化問題を安定的に収束させるための主流の最適化アルゴリズムですが、確率的勾配降下法（SGD）に比べて非平坦な極小点に収束する可能性が高いという課題があります。そこで提案されたのがAdamXであり、その革新点は新しいタイプの2次モーメント推定用の指数減衰率を導入し、学習が進むにつれて学習ステップの修正強度を徐々に弱めることにあります。この手法は、安定した訓練期間中にSGDに収束することができ、訓練の安定性を向上させ、一般化能力の向上が期待されます。実験結果では、提案された減衰率が現行のものよりも優れており、Adamおよびその変種に対して性能的に安定した優位性を示しています。