この記事では、言語モデル(特にGPT-2)が空間ナビゲーションタスクをどのように解決するかを探求しています。研究者たちは、3つの空間学習パラダイムを用いながら、モデルの動作を分析しました。まず、探索モデルでは、空間の地図のような表現を学び、自己完結型の座標系を確立します。中間層で方向情報への依存が消失する急激な相転移が確認され、低レベルのヒューリスティックと空間的推論を使い分ける適応的な階層的思考システムが見られました。対照的に、目標指向モデルは、道に依存したアルゴリズムを学び続け、すべての層で明示的な方向入力に依存します。ハイブリッドモデルは改善された一般化を示すものの、依然として経路依存的な戦略を保持しています。これらの結果は、言語モデルにおける空間知能の性質が、探求データによって形成された一般的な世界モデルから、目標指向タスクのために最適化されたヒューリスティックまでのスペクトラムに位置することを示唆しています。