この記事では、深い残差学習の発明者について探求している。深い人工ニューラルネットワーク（NN）に基づく現代のAIは、残差接続を持つ深い残差学習の科学的文献から多くの影響を受けている。深い残差学習の発展には、1991年にセップ・ホフレイターが最初に提唱したリカレント残差接続がさまざまな形で進化してきた経緯がある。この接続は勾配消失問題を解決するために数学的に導出され、後のLSTMやResNetの基礎となった。また、残差接続の重みが1.0であることで、誤差信号が数百万ステップにわたって逆伝播できることを保証している。残差学習は広範な用途に貢献し、特に音声認識や言語処理において重要な役割を果たすようになった。著者は、この領域の進歩が深い学習の成功に寄与していることを強調している。