arXiv cs.LG

変分推論、自動エンコーダー、拡散モデルへの頻度主義的統計学の入門

A Frequentist Statistical Introduction to Variational Inference, Autoencoders, and Diffusion Models

http://arxiv.org/abs/2510.18777v1


本論文では、変分推論(VI)が現代の生成モデルである変分オートエンコーダー(VAE)やデノイジング拡散モデル(DDM)において重要な役割を果たすが、その教科書的な扱いが学問分野によって異なることを議論しています。統計学では、VIは通常、ベイズ的方法として後方近似にフレーム化されますが、機械学習ではVAEやDDMが頻度主義的な視点から発展しており、VIは最尤推定量の近似に使用されます。この違いが原因で、統計学者はVAEやDDMの背後にある原理を理解するのが難しくなっています。本論文は、古典的な期待値最大化(EM)アルゴリズムから始め、VI、VAE、およびDDMの理論を純粋な頻度主義の視点から説明し、古典的な統計的推論と現代の生成AIとの間のギャップを埋めようとしています。