arXiv cs.AI

知識蒸留のための動的重み調整:高精度肺癌検出とリアルタイム展開のためのビジョントランスフォーマーの活用

Dynamic Weight Adjustment for Knowledge Distillation: Leveraging Vision Transformer for High-Accuracy Lung Cancer Detection and Real-Time Deployment

http://arxiv.org/abs/2510.20438v1


本論文では、肺癌(LC)分類のための新しいアプローチとしてFuzzyDistillViT-MobileNetモデルを提案しています。このモデルは、動的なファジィ論理に基づく知識蒸留(KD)を利用し、病気診断における不確実性と複雑さに対処します。従来の静的KDモデルと異なり、当手法では重みを動的に調整し、高信頼度領域に焦点を当てながら曖昧な領域への関心を減少させます。この動的調整により、異なるLC画像の不確実性レベルに対処する能力が向上します。ビジョントランスフォーマー(ViT-B32)を教示モデルとして使用し、MobileNetモデルに知識を伝達。さらに、画像の画質向上のためにピクセルレベルの画像融合手法を導入し、波レット融合法によって画像解像度を改善します。計算効率に関しては、遺伝アルゴリズムを用いて最適な事前学習済みモデルを選定し、二つのデータセットで99%以上の精度を実現。