arXiv cs.LG

指数ラッソ: 重い裾のノイズと外れ値下での堅牢なスパースペナルティ

Exponential Lasso: robust sparse penalization under heavy-tailed noise and outliers with exponential-type loss

http://arxiv.org/abs/2511.15332v1


本論文では、高次元統計におけるLassoの限界に対処するため、新しい手法である指数ラッソを提案しています。従来のLassoでは、二乗損失関数への依存により外れ値や重い裾のノイズに敏感であり、信頼性の低いモデル選択や偏った推定を引き起こす可能性があります。指数ラッソは、指数型損失関数をLassoフレームワークに組み込むことで、ガウスノイズ下での統計的効率とデータ汚染への堅牢性との間にスムーズなトレードオフを実現します。この損失関数は、大きな残差の影響を抑える一方で、小さな誤差に対してほぼ二次的な挙動を維持します。理論的には、指数ラッソが強い統計的収束率を達成し、理想的な条件下での古典的Lassoに匹敵しつつ、重い裾の汚染の中でも堅牢であることを示しています。また、Majorization-Minimization (MM) アルゴリズムを用いて計算効率的に推定量を最適化しています。数値実験では、提案手法が古典的Lassoよりも優れた性能を示し、ガウスノイズ下でも強いパフォーマンスを維持することが確認されています。