arXiv cs.AI

頑健性のコスト:ReLUネットにおける頑健な記憶のためのパラメータ複雑性の厳密な境界

The Cost of Robustness: Tighter Bounds on Parameter Complexity for Robust Memorization in ReLU Nets

http://arxiv.org/abs/2510.24643v1


本研究では、ReLUネットワークにおける頑健な記憶のためのパラメータの複雑性を調査しています。異なるラベルを持つポイント間にεの分離があるデータセットを補間するために必要なパラメータの数を、トレーニングサンプル周辺のμ球内で予測が一貫することを保証しながら評価しています。 robustness比率ρ(µ/ε)の関数としてパラメータ数に関する上限と下限を確立し、既存研究よりも精緻な分析を行いました。特に、ρが小さい時は頑健な記憶のパラメータ複雑性が非頑健な記憶と一致しますが、ρが増加するにつれて複雑性が増加することが示されました。これにより、頑健性と記憶の間の新たな関係を明らかにしています。