本稿では、AIシステムの進化とユーザーの期待の高まりに伴い、プロンプトが膨張してしまう問題に対処するための新たな枠組み「JSPLIT」を提案します。従来、Large Language Models (LLMs) はテキストベースのインタラクションを行っていましたが、現在のアプリケーションでは外部ツールとの複雑なやり取りが求められるようになりました。その背景には、各ツールの機能をプロンプトに組み込む「モデルコンテキストプロトコル (MCP)」の標準化が進んだことがあります。しかし、ツールの数が増えることでプロンプトが長くなり、トークンコストの増大や遅延、無関係なツールの選択によるタスク成功率の低下が問題となります。JSPLITは、ツールを階層的に分類し、ユーザーのプロンプトに基づいて最も関連性の高いツールのみを選択することで、プロンプトのサイズを効果的に管理します。実験結果は、JSPLITがプロンプトのサイズを大幅に削減しつつ、エージェントの応答能力を保持することを示しています。