慢性腎疾患(CKD)は全球的に約10%の人口に影響を与え、進行すると末期腎不全に至ることが多いです。本研究では、ソウル大学病院のOMOP共通データモデルから得た多様な電子健康記録(EHR)を使用し、CKDの進行を予測するためのトランスフォーマーに基づくフレームワーク「ProQ-BERT」を提案しています。このモデルは、人口統計、臨床、検査値のデータを統合し、連続的な検査値には量子化に基づくトークナイゼーションを用い、解釈可能性のために注意機構を採用しています。311,816人の患者を評価した結果、短期予測においてROC-AUCが0.995、PR-AUCが0.989に達し、CEHR-BERTを上回る性能を示しました。これにより、トランスフォーマーアーキテクチャの有効性が確認され、個別化されたCKDケアへの可能性が示唆されます。