arXiv cs.LG

曲率整列による自己教師あり学習

Self-Supervised Learning by Curvature Alignment

http://arxiv.org/abs/2511.17426v1


この記事では、自己教師あり学習(SSL)の新たな手法であるCurvSSLが提案されています。この手法は、データの局所的な幾何学を考慮した曲率レギュラリゼーションを用いており、従来の非対照的手法よりも優れた結果が得られることが示されています。具体的には、標準の二視点エンコーダ・プロジェクタアーキテクチャを保持しつつ、コサイン相互作用を用いて近傍の点から曲率スコアを算出します。これらのスコアは、Barlowスタイルの損失関数を通じて整列され、局所的なマンifoldの一貫性を保ちながらバリエーションを抑えることができます。実験では、MNISTやCIFAR-10データセットを用いた結果、曲率を考慮した自己教師あり学習が、従来の手法と比較して競争力のある性能を示すことが確認されました。