arXiv cs.AI

運用制約における動的な衝突解決に必要な要件

Requirements for Aligned, Dynamic Resolution of Conflicts in Operational Constraints

http://arxiv.org/abs/2511.10952v1


自律AIシステムはしばしば新規または不明確な文脈において、複数の妥当な行動コースを評価する必要があります。しかし、これらのシステムは、すべての運用制約(運用手順、ルール、法律、規範、目標など)を満たす行動コースが存在しないシナリオに直面することになります。目標を達成するためには、エージェントは訓練されたポリシーを超え、行動コースを構築、評価、正当化する必要があります。これには、以前の訓練に含まれない文脈的な「知識」が必要です。本論文では、これらの文脈におけるエージェントの意思決定の要件を特定し、人間の期待に沿った目標達成のために必要な知識の種類を明らかにします。現実の複雑な環境でエージェントがより整合的な行動コースを選択し追求するために、規範的、実践的、状況的な理解を統合する必要があることを示しています。