arXiv cs.LG

ブラックボックスLLMのための細やかな運用ポイントの実現

Enabling Fine-Grained Operating Points for Black-Box LLMs

http://arxiv.org/abs/2510.17727v1


この論文は、ブラックボックスの大規模言語モデル(LLM)を分類器として使用し、特定のメトリック(例えば、精度95%以上)に制約があるアプリケーションへの適用を強化する方法を探求しています。従来のLLMは低い数値出力の多様性から、運用ポイントの調整が困難でした。そのため、パフォーマンスを落とすことなく運用の細かな粒度を向上させる新しいアプローチを提案しています。著者たちは、出力が丸められた確率に偏っていることを突き止め、標準的なプロンプトエンジニアリング技術はあまり効果的でないことを示します。最終的に、提案された手法により、利用可能な運用ポイントの数と多様性を大幅に増加させ、11のデータセットと3つのLLMにおいて従来の手法と同等以上のパフォーマンスを達成しています。