arXiv cs.LG

ベイズ最適化のための非線形次元削減手法

Nonlinear Dimensionality Reduction Techniques for Bayesian Optimization

http://arxiv.org/abs/2510.15435v1


この記事では、ベイズ最適化(BO)のための非線形次元削減手法について探求しています。BOは高次元のブラックボックス関数の効率的な最適化手法として知られていますが、そのスケーラビリティには課題があります。本研究では、低次元の潜在空間ベイズ最適化(LSBO)を通じて問題を解決し、特に変分オートエンコーダ(VAE)を用いて深いメトリック損失に基づく潜在多様体の構造に焦点をあてています。また、従来の実装を最適化タスクに再構成し、逐次的ドメイン削減(SDR)と結合した新しいアルゴリズムを提案します。GPUアクセラレーションを用いたBoTorchスタックで実装され、標準のベンチマークタスクにおいて最適化の質が向上したことが示されています。この研究は、SDRとVAEベースのLSBOを組み合わせた初の試みであり、スケーラブルな潜在空間BOにおける設計選択に関する重要な見解を提供しています。