arXiv cs.LG

非対立的アプローチによる冪等生成モデル

A Non-Adversarial Approach to Idempotent Generative Modelling

http://arxiv.org/abs/2511.02614v1


本記事では、冪等生成ネットワーク(IGN)を基にした新たな非対立的生成モデルである非対立的冪等生成ネットワーク(NAIGN)を提案しています。IGNは深層生成モデルであり、任意の入力をデータの多様体に戻すことができるプロジェクターとして機能しますが、従来のIGNはモード崩壊やトレーニングの不安定性といった問題を抱えています。これらは対立的な要素を含む目的関数から生じるもので、データの多様体を部分的にしか覆えないことが問題です。NAIGNでは、再構成と非対立的生成目的である暗黙の最大尤度推定を組み合わせた損失関数を使用し、損壊したデータの復元やデータ分布に近い新しいサンプルの生成能力を向上させます。また、NAIGNは、データの多様体への距離場およびエネルギーベースモデルを暗黙的に学習することも示されています。