arXiv cs.AI

GhostEI-Bench: モバイルエージェントは動的なオンデバイス環境における環境インジェクションに対して耐性があるか?

GhostEI-Bench: Do Mobile Agents Resilience to Environmental Injection in Dynamic On-Device Environments?

http://arxiv.org/abs/2510.20333v1


この記事では、モバイルユーザーインターフェースを操作するための自律エージェントとして導入されている視覚言語モデル(VLMs)が、ダイナミックなオンデバイス環境において直面する新たな脅威である「環境インジェクション」について論じています。この手法は、視覚的認識を妨害するために、偽のUI要素を挿入する攻撃手法です。著者たちは、新しいベンチマーク「GhostEI-Bench」を開発し、実際のアプリケーションのワークフロー内で環境インジェクション攻撃のもとでモバイルエージェントを評価する方法を示しました。実験の結果、現行のエージェントは操作されたユーザーインターフェースを正しく認識できない深刻な脆弱性があることが明らかになりました。この研究は、より堅牢で安全なエージェントの開発に向けた重要な一歩となります。