arXiv cs.AI

マルチクラス分類における特徴選択と正則化:勾配降下法最適化とL1スパース制約を用いた一対残りロジスティック回帰の実証研究

Feature Selection and Regularization in Multi-Class Classification: An Empirical Study of One-vs-Rest Logistic Regression with Gradient Descent Optimization and L1 Sparsity Constraints

http://arxiv.org/abs/2510.14449v1


本研究では、マルチクラスワイン分類におけるモデル精度、特徴の次元数及び解釈性のトレードオフについて探求しています。UCIワインデータセットを利用し、独自の勾配降下法による実装とscikit-learnの最適化ソルバーを比較しました。その結果、手動勾配降下法での平均テスト精度は92.59%を達成し、スムーズな収束を示しましたが、scikit-learnでは24倍のトレーニングスピードアップと98.15%の精度が得られました。また、L1正則化により特徴の54〜69%の削減が実現され、わずか4.63%の精度低下にとどまりました。最適な5特徴のサブセットにより、92〜94%の精度を維持しつつ62%の複雑性削減を達成しました。本研究は、リソース制約のある環境での化学分析と対象特徴測定のバランスに関する実用的なガイドラインを提供します。