arXiv cs.AI

不確実性キャリブレーションの役割を理解することで摂動ベースの説明を改善する

Improving Perturbation-based Explanations by Understanding the Role of Uncertainty Calibration

http://arxiv.org/abs/2511.10439v1


この論文では、摂動ベースの説明が機械学習モデルの透明性を向上させるために広く利用されている一方で、特定の摂動下でのモデルの信頼性がしばしば損なわれることに注目しています。著者たちは、不確実性キャリブレーション(モデルの信頼度と実際の精度の整合性)が摂動ベースの説明にどのように影響を与えるかを調査しました。その結果、説明のための特定の摂動にさらされた際に、モデルが系統的に不正確な確率推定を出すことが示され、このことが全球的および局所的な説明の質を直接的に損なうことを理論的に証明しました。この問題を解決するために、新しい手法であるReCalXを提案し、元の予測を維持しながらモデルを再キャリブレーションすることで説明性を改善します。様々なモデルとデータセットでの実験により、ReCalXが特定の摂動に対する不整合を効果的に削減し、説明の頑健性と重要な入力特徴の識別能力を向上させることが確認されました。