本稿では、人間とAIの協力における根本的なボトルネックである「意図表現のギャップ」に焦点を当てます。この問題は、ユーザーがAIに対して複雑な思考を効果的に伝えることが難しいため、試行錯誤の非効率なループにはまることがあります。著者らはパッシブな指示に従うのではなく、情報を積極的に探るソクラテス的な協力の枠組みを提案し、Nousと名付けたエージェントを開発しました。Nousは、情報理論の基本原理に基づいたトレーニングフレームワークを採用し、対話から得られる情報の増加を内因性報酬として定義します。このアプローチにより、高コストな人間の嗜好アノテーションや外部報酬モデルに依存せずに済みます。実験では、科学的図表生成という難しいタスクに対して、効率性と出力品質を示し、幅広いユーザーの専門性に対してもロバスト性を持っています。この研究は、人間とAIの複雑な協力におけるユーザー意図の不確実性を解決するための原則的でスケーラブルな枠組みを提供します。