arXiv cs.AI

相関を意識した特徴帰属に基づく説明可能なAI

Correlation-Aware Feature Attribution Based Explainable AI

http://arxiv.org/abs/2511.16482v1


説明可能なAI(XAI)は、現代のモデルの複雑性が増す中、透明性や信頼性、規制遵守が求められる高リスクなアプリケーションではますます重要になっています。従来のグローバルな帰属方法は高い計算コストを必要とし、相関のある入力に対して安定性に欠け、大規模または異種のデータセットで効率的にスケールしません。本論文では、データの一部だけでモデルのランキングを再現する軽量な転送プロトコルを使用した相関意識のアトリビューションスコア「ExCIR」を提案します。ExCIRは、特徴とモデル出力の間の符号付き共動きを定量化します。また、「BlockCIR」というグループ単位の拡張も提示し、相関のある特徴のセットを単一ユニットとして評価します。これは、コリニアなクラスターにおける二重カウントを軽減し、強い依存関係が存在する場合でもスムーズで安定したランキングを提供します。多様なデータセットにおいて、ExCIRは信頼できる一致を示し、効率的で一貫した説明を提供します。