arXiv cs.AI

感情的知性と責任ある強化学習に向けて

Towards Emotionally Intelligent and Responsible Reinforcement Learning

http://arxiv.org/abs/2511.10573v1


この研究では、健康管理や行動支援におけるパーソナライズされた意思決定システムが、ユーザーの感情的文脈や倫理的制約を無視している現状を取り上げています。従来の静的なルールやエンゲージメント最大化の手法は、特に深刻なメンタルヘルスの問題に関与する場合、安全でない介入を推奨するリスクがあります。これに対処するため、著者らは倫理的考慮と感情的理解を組み込んだ「責任ある強化学習(RRL)」フレームワークを提案しています。RRLは、感情の整合性と倫理的な安全性を確保しながら、エンゲージメントと遵守を最適化する制約付きマルコフ決定過程(CMDP)としてパーソナライズを定式化します。また、短期的な行動エンゲージメントと長期的なユーザーの幸福をバランスさせる多目的報酬関数を導入し、感情の変動を捉える状態表現を定義しています。このアプローチは、行動健康、教育、デジタル治療などの人間中心の分野における応用の可能性を論じ、倫理に配慮した感情認識型強化学習の方法論的な議論を喚起することを目的としています。