arXiv cs.AI

Fints: 微細なインスタンスに基づく個別化を用いたLLMの効率的な推論時個別化

Fints: Efficient Inference-Time Personalization for LLMs with Fine-Grained Instance-Tailored Steering

http://arxiv.org/abs/2510.27206v1


大型言語モデル(LLMs)の急速な進化により、ユーザー個々の好みに適応するための効果的な個別化技術に対する需要が高まっています。本記事では、動的なユーザーパターンやデータのスパース性に対応するために、微細に調整されたインスタンス指向の steering フレームワークを提案します。このフレームワークは、ユーザーデータからサンプルレベルの干渉ベクトルを動的に生成し、モデルのフォワードパスに注入することで個別化を行います。キー技術として、注意層やMLP層からの活動をフックする微細な steering コンポーネントと、これらの信号を文脈に関連した強化に変換する入力認識アグリゲーションモジュールを導入しています。この手法は、高い柔軟性とデータ効率を示し、急速に変化する環境やデータのスパースなシナリオで優れたパフォーマンスを発揮します。