リンク予測におけるパラメータの平均化

本論文では、機械学習の一般化性能を向上させるために、アンサンブル学習を濃厚に利用することを背景に、リンク予測における知識グラフ埋め込み（KGE）モデルでのパラメータの平均化手法を提案しています。通常のアプローチは複数のモデルをトレーニングし、それらの結果を平均化するものですが、この手法には高い計算資源とメモリオーバーヘッドが伴います。これに対し、モデル統合（モデルの重み付き平均）を導入し、学習エポックの進行に伴ってモデルパラメータの移動平均を維持しながら予測を行います。また、評価データセットに対する一般化性能が向上したときのみ、モデルパラメータの移動平均を選択的に更新するアプローチも提案しています。実験の結果、提案した重み付き平均手法がさまざまな評価設定において一貫した性能向上を示しました。