arXiv cs.AI

あいまいな要求に関する意図の推論

Reasoning About Intent for Ambiguous Requests

http://arxiv.org/abs/2511.10453v1


本記事では、大規模言語モデルがあいまいな要求に対して一つの解釈に依存して応答する問題について考察しています。この解釈の誤解はユーザーを不快にさせたり、安全性リスクを引き起こす可能性があります。著者たちは、あいまいな要求に対して複数の解釈-回答ペアを生成する手法を提案し、強化学習やカスタマイズされた報酬関数を用いてモデルを訓練しています。この方法により、従来の手法よりも有効な回答のカバレッジが向上し、ヒューマン評価でも予測された解釈と回答の一致度が確認されました。このアプローチは透明性を促進し、効率的かつ構造化された出力形式により下流の応用にも対応できることが示されています。