arXiv cs.AI

プライバシーに敏感なシナリオに対するLLMの応答におけるユーザーのプライバシーおよび有用性の認識

User Perceptions of Privacy and Helpfulness in LLM Responses to Privacy-Sensitive Scenarios

http://arxiv.org/abs/2510.20721v1


この記事では、ユーザーがプライバシーに敏感なシナリオに対して大規模言語モデル(LLM)の応答をどのように認識しているかに焦点を当てています。特に、94人の参加者を対象に90のシナリオを用いたユーザー研究を実施し、プライバシー保持の質と有用性の評価においてユーザー間の合意が低い一方で、複数の代理LLM間では高い合意が見られることを示しました。この結果は、プライバシーや有用性の評価が個々のユーザーに特有であることを示唆しており、代理LLMが実際のユーザーの認識を正確に反映できない可能性があることを指摘しています。今後は、ユーザー中心のアプローチでLLMのプライバシーと有用性の評価方法を再考する必要があると述べています。