本研究では、心不全患者の経過を分析するためにシーケンスモデリングの手法を用いています。具体的には、電子健康記録(EHR)を活用した臨床予測タスクにおけるTransformerアーキテクチャの最新技術を検討し、Swedishの大規模な心不全コホート(N=42820)を対象に6つのシーケンスモデルを評価しました。これにより、臨床的な不安定性や死亡リスクを予測するための新たな知見が得られました。特に、Llamaモデルは最も高い予測精度を示し、Mambaアーキテクチャが続きました。両者は、少ない学習データでの優れたパフォーマンスを実現しました。また、本研究はモデルの設定やデータ前処理における最適化の重要性を示す初のアブレーションスタディを提供しています。今後の臨床予測モデルの開発においては、本研究の成果が出発点となることが期待されます。