arXiv cs.LG

制約付き敵対的摂動

Constrained Adversarial Perturbation

http://arxiv.org/abs/2510.15699v1


深層ニューラルネットワークは様々な分類タスクで顕著な成功を収めていますが、敵対的例(人間には変わりないように見えるが、微妙に変化させることで誤分類を引き起こす入力)に対して非常に脆弱です。特に、ユニバーサル敵対的摂動(UAP)はモデルのロバスト性のストレステストやスケーラブルな敵対的訓練において強力なツールとして注目されています。しかし、既存のUAP手法は、借入に対する収入比率やネットワーク通信におけるパケットフローの不変性などの特性関係を支配するドメイン特有の制約を無視することが多いです。本研究では、複雑な制約を考慮した制約付き敵対的摂動(CAP)を提案し、勾配ベースの交互最適化戦略を用いてこの問題を解決する効率的なアルゴリズムを開発しました。CAPは金融、ITネットワーク、サイバー物理システムなど多様なドメインで評価され、既存の基準と比べて高い成功率を達成しつつ、実行時間を大幅に短縮することを示しました。また、特徴制約をデータから直接学習するための原則に基づいた手法も導入し、構造化された入力空間を持つドメイン全体で広く適用可能であることを示しました。