本論文では、テキスト要約における最新の成果を紹介する新しいフレームワーク「BiSparse-AAS」を提案しています。これは、スパースアテンション、適応スパン、および双線形アテンションを組み合わせることにより、トランスフォーマーベースのアプローチが長文に対して持つ計算の複雑さを解決します。スパースアテンションは、入力の最も重要な部分に焦点を当てることで計算コストを削減し、適応スパンはアテンション範囲を動的に調整します。双線形アテンションは、洗練された文脈内でもトークン間の複雑なインタラクションをモデル化します。このBiSparse-AASは、抽出型および要約型タスクの両方において、既存の最先端技術を上回る性能を示し、CNN/DailyMailデータセットでは約68.1%、XSumでは約52.6%のROUGE改善を達成しました。また、実際のテキスト要約アプリケーションにおいて、効率性、スケーラビリティ、長シーケンスモデリングの問題を解決する統一的な実用的解決策を提供します。