arXiv cs.LG

MultiTab: 表形式データにおけるマルチタスク学習のためのスケーラブルな基盤

MultiTab: A Scalable Foundation for Multitask Learning on Tabular Data

http://arxiv.org/abs/2511.09970v1


表形式データは金融、医療、eコマースなど多くの分野で使用される最も一般的なデータタイプであり、関連する複数のターゲットを扱う際には、共有タスク情報を利用してマルチタスクの一般化を向上させる必要性が高まっています。本研究では、特に大規模な表形式データ用に設計されたMultiTab-Netという新しいマルチタスクトランスフォーマーアーキテクチャを紹介します。このアーキテクチャは、特徴間依存関係を動的にモデル化しながらタスク間の競合を軽減する新しいマルチタスクマスクドアテンション機構を採用しています。実験の結果、MultiTab-Netは、従来のマルチタスク学習アーキテクチャや単一タスクトランスフォーマーと比較して、一貫して高いマルチタスクの利得を達成しました。また、我々は、タスク数やタスクの相関関係、および相対的なタスクの複雑性を調整できる一般化されたマルチタスク合成データセット生成ツールMultiTab-Benchも提案しています。