arXiv cs.AI

ELPO: 大規模言語モデルのためのアンサンブル学習に基づくプロンプト最適化

ELPO: Ensemble Learning Based Prompt Optimization for Large Language Models

http://arxiv.org/abs/2511.16122v1


大規模言語モデル(LLM)の高い性能は、巧妙に設計されたプロンプトに依存していますが、手動でのプロンプトエンジニアリングは手間がかかり、実用面でのボトルネックとなっています。この問題を解決するために、自動プロンプト最適化(APO)という新たな研究領域が急速に発展しています。従来のAPO手法は単一のモデルまたはアルゴリズムに依存しており、複雑なタスクに対する性能を制限しています。これに対処するために、アンサンブル学習に基づくプロンプト最適化(ELPO)という新しいフレームワークを提案し、より正確で頑健な結果をもたらします。ELPOは投票メカニズムを用い、異なる検索方法を組み合わせて優れたプロンプトを探索します。実験結果では、ELPOは最新のプロンプト最適化手法を上回っており、例えばArSarcasmデータセットでF1スコアを7.6向上させました。