密度加重Stein演算子を用いたロバスト推論

本記事では、密度に基づいた加重バリアントである$eta$-Stein演算子を導入します。この演算子は、$eta$-ダイバージェンスに基づいており、正規化されていない確率モデルのためのロバストな推論手法を構築することを目的としています。この演算子はモデル密度を正の累乗$eta$で加重することでアウトライヤーの影響を低下させ、ロバスト性を確保するための重要なメカニズムを提供します。この演算子を適用することで、モデルの正規化定数に依存しないスコアマッチングのロバストな一般化が得られます。さらに、$eta$-カーネル化されたStein不一致を使用したロバストなフィット感テストおよび$eta$-Stein変分勾配降下法を開発し、ロバストなベイズ後方近似を実現するフレームワークを構築しました。混合ガウスモデルや高次ポテンシャルモデルに対する実証結果は、提案手法が標準的なベースラインに比べてロバスト性と統計的効率の両面で優れた性能を示すことを裏付けています。