arXiv cs.LG

モデルメタマーがグラフニューラルネットワークの不変性を明らかにする

Model Metamers Reveal Invariances in Graph Neural Networks

http://arxiv.org/abs/2510.17378v1


最近の研究により、深層ニューラルネットワークが知覚システムで広く利用され、脳の不変性メカニズムを模倣することを目指していることが明らかになりました。しかし、視覚と聴覚の分野での研究は、人工ニューラルネットワークの不変性特性と人間のそれとの間に大きなギャップが存在することを確認しています。本研究では、グラフニューラルネットワーク(GNN)の不変性挙動を調査するためにモデルメタマー生成技術を導入しました。この技術により、内部ノードの活性化が参照グラフと一致するように入力グラフを最適化することで、構造やノードの特徴は大きく異なるが、モデルの表現空間で等価なグラフを得ることができました。理論分析では、単一ノードの局所メタマ次元とメタマの多様体の活性化誘導体積変化に焦点を当てています。結果、従来のGNNアーキテクチャ全体で極端な表現の不変性が明らかになり、モデルアーキテクチャやトレーニング戦略の修正はこの不変性を部分的に緩和できるものの、人間に似た不変性には根本的に橋渡しできないことが示されました。