arXiv cs.LG

再利用と継続学習を可能にするための合成計算の「何」と「どう」の分離

Separating the what and how of compositional computation to enable reuse and continual learning

http://arxiv.org/abs/2510.20709v1


本研究では、知的で効率的な行動の主要な特徴である、スキルを継続的に学習し、保持し、活用する能力について考察します。特に、再帰神経ネットワーク(RNN)モデルを用いて、学習済みの計算を合成的に再利用する方法と、継続的学習を実現する新しい二つのシステムアプローチを提案します。一つは「何を計算するか」を推測するシステム、もう一つは「どのように計算を実行するか」を実行するシステムです。提案の中で、課題を確率的生成モデルで体系的に説明し、共通のタスクエポックのボキャブラリーから合成性を引き出します。また、タスクが新たに提示される際に低ランクのRNNコンポーネントを再利用できるよう、文脈推測による学習を実装しています。この二つのシステムは継続学習を可能にし、キャタストロフィックフォゲッティングなしに新しいタスクに適応できる点を示しています。