本論文では、深層学習におけるソボレフ訓練の理論的効果を精密に解析しています。特に、関数と勾配データを用いた回帰の方法が、次元が高く過剰パラメータ化された予測モデルに与える一般化誤差に与える影響を考察します。著者らは、訓練可能なパラメータの数、入力次元、訓練データが同時に無限に増加する極限でのソボレフ訓練の特性を明らかにしました。具体的には、勾配データを有限次元の部分空間に写像する実装を反映させ、確率論のリニア化と統計物理学のレプリカ法を組み合わせることで、訓練されたランダム特徴モデルの一般化誤差の閉形式の記述を導出しました。さらに、単一インデックスモデルで示されたターゲット関数に対し、関数データに追加の勾配データを加えることが必ずしも予測性能を向上させるわけではないことを示しており、過剰パラメータ化の程度が最適な訓練手法の選択に影響を与えることを指摘しています。