arXiv cs.LG

整合性モデルのための適応的離散化

Adaptive Discretization for Consistency Models

http://arxiv.org/abs/2510.17266v1


整合性モデル(CMs)は効率的な一段階生成の可能性を示していますが、既存のCMsは手動で設計された離散化スキームに依存しており、様々なノイズスケジュールやデータセットのために繰り返し調整が必要です。この記事では、CMsの自動的かつ適応的離散化のための統一フレームワークを提案し、離散化ステップに関する最適化問題として定式化しています。具体的には、一貫性のトレーニングプロセス中に、過剰な離散化を避けるための最適化目標として局所的一貫性を使用し、トレーニングターゲットのデノイジング誤差を制御するためにグローバルな一貫性を制約条件として設定します。このフレームワークに基づき、Gauss-Newton法を使用してCMsの適応的離散化を達成し、ADCMsと呼ぶ手法を提案しました。実験により、ADCMsはCMsのトレーニング効率を大幅に向上させ、CIFAR-10およびImageNetで優れた生成性能を示しました。また、ADCMsはより進化したDMバリアントに対する強い適応性も持っています。