HackerNews

KNNによる特徴抽出

Feature Extraction with KNN

https://davpinto.github.io/fastknn/articles/knn-extraction.html


この記事では、fastknnライブラリを使用してKNN(k最近傍法)に基づく特徴抽出の手法を紹介しています。KNNを利用することで、元のデータから新しい特徴を生成し、これにより分類精度を向上させることができます。この手法では、各クラスに対してk個の最近傍の距離を計算し、その合計を新しい特徴として使用します。結果として生成される特徴はk * c(cはクラスラベルの数)で、これはn-fold交差検証でさらにトレーニングされます。また、KNN特徴が線形学習者(例えばGLMモデル)では抽出できない情報を持っていることも示されています。実例を通じて、KNNによる特徴抽出がデータの非線形マッピングを可能にし、クラス間の線形分離を助けることが描かれています。