ラベルプライバシーの観察監査

本記事では、機械学習システムにおけるプライバシー保証を評価するための微分プライバシー監査の重要性について述べています。従来の監査手法は、トレーニングデータセットの変更を必要とし、大規模システムにとっては困難が伴います。著者たちは、元のデータセットを変更することなくプライバシー評価を行える新しい観察監査フレームワークを提案しています。このアプローチは、従来のメンバーシップ推測を越えた保護属性に拡張され、特にラベルに関するプライバシー監査の重要なギャップに対処しています。理論的な基盤を提供し、CriteoやCIFAR-10データセットで実験を行い、その有効性を立証しました。この研究は、大規模生産環境における実用的なプライバシー監査の新たな道を開くものです。