arXiv cs.LG

ECVL-ROUTER: シナリオに応じたビジョン・ランゲージモデル向けルーティング

ECVL-ROUTER: Scenario-Aware Routing for Vision-Language Models

http://arxiv.org/abs/2510.27256v1


本記事では、ビジョン・ランゲージモデル(VLM)におけるシナリオに応じたルーティングフレームワークであるECVL-ROUTERを提案しています。VLMは多様なマルチモーダルタスクに優れていますが、ユーザーの要件はシナリオによって異なります。これらは迅速な応答、高品質な出力、低エネルギー消費にカテゴライズされます。大規模モデルをクラウドに依存していると、高遅延や高エネルギーコストが発生しますが、小規模モデルをエッジデバイスにデプロイすることで、シンプルなタスクを低遅延・低エネルギーで処理することが可能です。このECVL-ROUTERは、新たなルーティング戦略を導入し、ユーザーの要件に基づいて動的に適切なモデルを選択することで、全体の効用を最大化します。また、ルーターのトレーニングに適したマルチモーダル応答品質データセットを構築し、広範な実験を通じてその有効性を検証しました。その結果、80%を超えるクエリを小規模モデルにルーティングし、問題解決確率の低下は10%未満に抑えることに成功しています。