arXiv cs.LG

時間系列基盤モデルの内部意味論について

On the Internal Semantics of Time-Series Foundation Models

http://arxiv.org/abs/2511.15324v1


時間系列基盤モデル(TSFM)は、さまざまな時間領域での学習のための普遍的なパラダイムとして最近登場した。しかし、これらのモデルが根本的な時間系列の概念をどのように表現しているかは依然としてほとんど理解されていない。本研究では、TSFMにおける概念の解釈可能性を体系的に調査し、特に各レイヤーがどの概念を符号化しているか、概念パラメータが線形に回収可能かどうか、モデルの深さに沿った概念の分離と抽象化がどのように進化するか、概念の合成がどのように処理されるかを分析した。結果として、初期のレイヤーは主に局所的な時間領域のパターンを捉え、深いレイヤーは分散や変化時間の信号を符号化することが示された。さらに、概念の合成においては、格式的なパフォーマンスが低下し、概念間の干渉が明らかになった。このように、現在のTSFMが相互作用する時間現象を表現する能力には限界があることが強調される。