arXiv cs.AI

SeSE:LLMにおける幻覚検出のための構造情報に基づく不確実性定量化フレームワーク

SeSE: A Structural Information-Guided Uncertainty Quantification Framework for Hallucination Detection in LLMs

http://arxiv.org/abs/2511.16275v1


本論文では、大規模言語モデル(LLM)の安全な運用に不可欠な不確実性定量化(UQ)手法として、SeSE(Semantic Structural Entropy)を提案します。従来のUQ手法は主に意味的な確率分布やペア距離に依存していましたが、隠れた意味構造情報を無視しているため、精度に欠けることがありました。SeSEは構造情報の観点からLLMの内在的な意味的不確実性を定量化し、幻覚検出を実現します。具体的には、適応的にスパース化された有向意味グラフ構築アルゴリズムを開発し、意味空間のモデル化を行います。そして、最適なセマンティックエンコーディングツリーの構造エントロピーを用いて、精緻な不確実性評価を行い、高いSeSE値が幻覚生成の可能性を示します。実験結果では、SeSEが先進的なUQベースラインを大幅に上回ることが示されました。