因果的摂動による公平性テスト

本論文では、AIモデルを用いたシステムにおいて、不公平な差別を軽減する目的で公平性テストの重要性を取り上げています。特に、限られたサンプルサイズの下での「公平性バグ」の明らかにし方に焦点を当て、データの特性に基づく知識を活用できていない現行のテストサンプル生成方法の限界を指摘します。著者らは「因果的摂動による公平性テスト（CausalFT）」という汎用フレームワークを提案し、敏感な特徴と直接的に関連する非敏感な特徴を因果推論により抽出することを可能にし、それを摂動生成に組み込むことでテストサンプル生成を促進します。実験結果によると、CausalFTは93%以上のケースで公平性バグを明らかにする際に既存の生成器を大幅に改善し、特にバイアス耐性向上にも寄与しました。