arXiv cs.AI

偏見のある心は偏見のあるAIに出会う: クラスの不均衡が適切な依存にどのように影響し、人間の基準率無視と相互作用するか

Biased Minds Meet Biased AI: How Class Imbalance Shapes Appropriate Reliance and Interacts with Human Base Rate Neglect

http://arxiv.org/abs/2511.14591v1


本研究では、人間と人工知能(AI)との相互作用におけるバイアスの複雑な関係について調査しています。特に、AIのバイアスとしてのクラスの不均衡が、AIを用いた意思決定支援システムに対する人々の適切な依存能力にどのように影響し、人間のバイアスである基準率無視とどのように相互作用するかを examinedします。実験では、参加者がバランスの取れたデータセットまたは不均衡なデータセットで訓練されたAIシステムを使用し、3つの疾患を分類しました。その結果、クラスの不均衡が参加者のAIに対する依存の調整を乱し、クラスの不均衡と基準率無視との間に相互に強化する効果があることが示されました。この発見に基づき、人間とAIの相互作用におけるバイアスについてのさらなる研究が提唱されています。