本論文は、最小二乗法が現代の機械学習において、単なる線形モデルのフィッティングツールとしてだけでなく、未満の可能性を持っていると主張しています。その可能性を引き出すために、ソルバーを微分可能な演算子へと変換するカスタム勾配を導出し、神経ネットワーク層のように多様な応用を可能にします。実証的には、(i) 5000万パラメータモデルの重みのスパース性を強制することでスケーラビリティを示し、(ii) スコアベースの生成モデルにおける保守的制約を課し、(iii) 予測性能に基づくガウス過程のハイパーパラメータチューニングを行っています。この研究は、微分可能な線形代数ツールの発展の次の段階を示し、これを機械学習の実践者に広くアクセス可能にすることを目指しています。