arXiv cs.AI

LLEXICORP: エンドユーザーのための畳み込みニューラルネットワークの説明可能性

LLEXICORP: End-user Explainability of Convolutional Neural Networks

http://arxiv.org/abs/2511.02720v1


本記事では、畳み込みニューラルネットワーク(CNN)の説明可能性を向上させるための新しい手法LLEXICORPを提案しています。CNNは多くのコンピュータビジョンシステムの根幹をなしており、その決定を理解する必要性が高まっています。従来の手法では、専門家がモデルの出力を手作業で解釈し、説明を生成する必要がありましたが、これはスケーラビリティに限界があります。LLEXICORPは、大規模な言語モデルとCRP(概念関連性伝播)を組み合わせ、無名の概念プロトタイプに自動的に説明的な名称を付与し、定量的な関連性を直感的な文脈に変える自然言語説明を生成します。これは、専門家向けの技術的な説明と非専門的な利害関係者向けの要約を提供し、AIシステムの透明性を向上させることを目指しています。提案手法は、VGG16モデルに対するImageNetの多様な画像を用いて評価され、深層ニューラルネットワークの解釈に対する障壁を低減する可能性が示されました。