本研究では、個別にファインチューニングされたモデルから特定のタスクの能力を統合するモデル統合の手法について述べています。タスクベクトルは、ファインチューニングからの残存情報をカプセル化する重要な要素ですが、タスクに無関係な冗長性から性能が低下する課題があります。既存の手法では、パラメータ空間内の要素をランダムに削除することで冗長性を克服しようとしますが、知識を考慮していないため限界があります。そこで本研究では、知識対応サブスペースにおけるタスクベクトル浄化の手法（PAVE）を提案します。この方法では、各タスクからトレーニング例をサンプリングし、ファインチューニングされたモデルに入力して共分散行列を取得し、重要な重み成分を強調する特異値分解を行います。これにより、タスクに関連する重みと冗長な成分を分離し、冗長な成分を削除してタスクベクトルを浄化します。実験は、多様な統合手法、タスク、モデルアーキテクチャに対してPAVEの効果を示しています。