arXiv cs.AI

プロンプトは表現を再形成するのか?プロンプト効果の埋め込みに関する実証研究

Do Prompts Reshape Representations? An Empirical Study of Prompting Effects on Embeddings

http://arxiv.org/abs/2510.19694v1


本研究では、プロンプトが言語モデル(LM)の内部表現に与える影響を調査しています。プロンプトを用いることで、タスク特有のサポートなしに多様なタスクの解決が可能になるが、その機構は未だよく理解されていません。この実証研究では、ゼロショット分類のためのプロンプト埋め込みに関する一連の実験を行い、異なるプロンプトテンプレートの組み合わせを分析しました。その結果、プロンプトの質は内部表現の質に影響を及ぼすものの、その変化がターゲットタスクへの関連性と一貫して相関するわけではないことがわかりました。この予想外の結果は、より関連性の高いプロンプトが必ずしも良い表現をもたらすという前提に挑戦するものです。さらに、これに寄与するかもしれない要因についても考察しています。