arXiv cs.AI

質問応答システムに向けた文脈認識型共同確率モデル

Contextual Aware Joint Probability Model Towards Question Answering System

http://arxiv.org/abs/1904.08109v1


本論文では、SQuAD 2.0データセットを用いて質問応答の課題に取り組みます。文脈を考慮した単語埋め込みの能力を持つBERTと、文脈の相互作用を探索するメカニズムを持つBiDAFを統合したモデルアーキテクチャを設計しました。このシステムは、質問と文脈、およびその相関関係をより良く理解するために、単語レベルと文字レベルで文脈的な単語表現を抽出しようとします。また、独自の共同事後確率予測モジュールとその関連する損失関数を提案しています。最良のモデルは、テストPCEリーダーボードにおいてF1スコア75.842%、EMスコア72.24%を達成しています。