本研究では、不確実性定量化（UQ）が必要とされる状況下での深層神経ネットワークの展開において、プルーニングされたアテンションヘッドを用いた新しいアンサンブル手法「Hydra Ensembles」を提案します。従来のDeep Ensembles手法は高いUQ性能を持つ一方で、計算資源やメモリのコストが課題です。Hydra Ensemblesは、アテンションヘッドをプルーニングして多様なモデルを生成し、新しいマルチヘッドアテンションを通じてそれらを統合することで、コンパクトで効率的なモデルを実現します。実験結果では、画像やテキスト分類タスクにおいてDeep Ensemblesを上回るパフォーマンスを示し、特にImageNet-1kのゼロショット分類において最先端の方法を超える成果を上げています。加えて、プルーニングに関する詳細な分析も行い、従来のナイーブな手法がキャリブレーションを損なう可能性がある一方、Hydra Ensemblesは堅牢な不確実性を保持することを示しています。