arXiv cs.AI

サリエンシーマップの再考: 認知的人間に沿った分類法と説明の評価フレームワーク

Rethinking Saliency Maps: A Cognitive Human Aligned Taxonomy and Evaluation Framework for Explanations

http://arxiv.org/abs/2511.13081v1


本研究では、深層学習における視覚的説明として広く利用されているサリエンシーマップの目的と評価の曖昧さに焦点を当て、その解決策を提案しています。具体的には、Reference-Frame × Granularity(RFxG)という新しい分類法を導入し、サリエンシーの説明をポイントごとの質問とコントラストの高い質問、またグループレベルやクラスレベルなどの粒度に沿って整理します。このフレームワークを用いることで、既存の評価基準の限界を明らかにし、点ごとの信頼性を重視するあまり、コントラスト的な推論や意味的な粒度が軽視されていることを指摘しています。さらに、RFxGの両次元にわたる説明の質を体系的に評価するために4つの新しい信頼性指標を提案し、さまざまなサリエンシー手法に適用しています。このアプローチは、ユーザーの意図に基づいた評価へのシフトを提唱し、人間の理解と探求の複雑さに合った視覚的な説明の提供を目指しています。