arXiv cs.LG

非パラメトリック楽器変数回帰におけるニューラルネットワークの統一的分析への道:最適化と一般化

Towards a Unified Analysis of Neural Networks in Nonparametric Instrumental Variable Regression: Optimization and Generalization

http://arxiv.org/abs/2511.14710v1


本研究では、非パラメトリック楽器変数回帰における二段階最小二乗法(2SLS)に対するニューラルネットワークの初のグローバル収束結果を確立しました。標準的な平均場ランジュバン力学(MFLD)とは異なり、私たちの設定では、2SLSが確率測度の空間におけるバイレベル最適化問題を含みます。この課題に対処するために、バイレベル最適化のために最近開発されたペナルティ勾配アプローチを利用し、バイレベル最適化をラグランジュ問題として定式化しました。これにより、F²BMLDと呼ばれる新しい一次完全アルゴリズムが得られました。収束境界に加えて、最適化と統計的保証の選択におけるラグランジュ乗数の固有のトレードオフを明らかにする一般化境界も提供します。最終的に、提案手法の有効性をオフライン強化学習のベンチマークで実証的に検証しました。