arXiv cs.AI

Whisper Leak: 大規模言語モデルに対するサイドチャネル攻撃

Whisper Leak: a side-channel attack on Large Language Models

http://arxiv.org/abs/2511.03675v1


本論文では、大規模言語モデル(LLM)が医療や法律、機密性の高い通信などの敏感な分野で使用される中、プライバシーの重要性が強調されています。Whisper Leakと呼ばれる新しいサイドチャネル攻撃を紹介し、LLMの暗号化されたトラフィックからユーザーのプロンプトのトピックを推測する方法を提案します。この攻撃では、ストリーミング応答におけるパケットサイズやタイミングパターンを分析することで、トピック分類が可能になります。研究では、主なプロバイダーから28の人気LLMに対して攻撃を実演し、98%を超える分類精度を達成しました。この脆弱性は、ISPや政府などによるネットワーク監視を受けるユーザーにとって重要なリスクを伴います。論文では、攻撃を軽減するためのいくつかの戦略も評価されていますが、いずれも完全な保護を提供するものではないと結論付けています。LLMプロバイダーは、このメタデータ漏洩問題に対処する必要があると警告しています。