この記事では、AIエージェントの安全性と自律性をどうバランスさせるかについて考察しています。著者たちは、エージェントが自立して行動するか、または人間に確認するかを選択する最低限の制御インターフェースを研究しています。また、人間はその際に許可するか監視するかを選びます。この相互作用を二人プレイヤーによるマルコフゲームとしてモデル化し、人間の価値関数に基づく構造的仮定を設けることで、エージェントの自律性を損なわずに人間の価値を守る保証を提供します。さらに、リスクの高い時はエージェントが確認し、安全な時は行動するといった透明な制御層の設計を提案し、シミュレーションを通じて人間とエージェントが最適な役割を発見する様子を示しています。この手法は、配置後の不整合なモデルを安全にする実践的な方法を提供します。