この記事では、計算システムと脳の関係が、機械学習の普遍的推論モデルに向けた重要な壁であることが述べられています。新たに提案された『ドラゴンの孵化』（BDH）は、生物学的にインスパイアされたスケールフリーのネットワークに基づく大規模言語モデルアーキテクチャで、トランスフォーマーに似た性能を維持しながら理論的基盤と解釈可能性を兼ね備えています。BDHは、高いモジュラリティと重い尾の度数分布を持つニューロン相互作用ネットワークを持ち、例えばスパイキングニューロンを用いたシナプスプラスティシティによって働きかけのメモリを構成し、言語処理中に特定の概念に関してシナプスが強化されることを示しています。BDHはトランスフォーマーと比較しても競争力があり、言語や翻訳タスクにおいてその性能が確認されています。解釈可能性が内在するBDHは、ニューロンやモデルパラメータを超えた状態の解釈可能性を提供します。