arXiv cs.AI

バイアスの結びつき: テキストから画像への合成におけるバイアス制御のための隠れた関連性の測定

How Bias Binds: Measuring Hidden Associations for Bias Control in Text-to-Image Compositions

http://arxiv.org/abs/2511.07091v1


本研究は、テキストから画像を生成するモデルが持つ敏感な属性に関連するバイアスについて考察しています。従来の研究は単一のオブジェクト提示に偏りがちですが、実際にはプロンプト中の各オブジェクトや属性がバイアスに寄与していることが示されています。たとえば、「ピンクの帽子をかぶったアシスタント」というプロンプトは、ピンクの帽子と女性に関連した偏見を反映する可能性があります。著者は、オブジェクトと属性の間の文脈的関連性が生成結果に与える影響を調査し、特定のバイアスを引き起こすオブジェクト-属性結合の評価指標を導入しました。また、トークンのデカップリングを用いてバイアスを緩和する新しいフレームワークを開発し、構成生成タスクで10%以上のバイアス改善を達成しました。この研究は、現在のバイアス緩和手法の限界を浮き彫りにし、セマンティックな結びつきのあるコンテキストにおける新たなアプローチの必要性を強調しています。