arXiv cs.LG

再帰ニューロンへのコンパイル

Compiling to recurrent neurons

http://arxiv.org/abs/2511.14953v1


この記事では、離散構造が微分可能プログラミングにおいて「二級市民」である現状を指摘しています。離散構造上の関数は明示的な導関数を欠いているため、微分可能プログラムはこれらを通じて微分できず、使用範囲が制限されます。しかし、最近の研究により、条件文や繰り返しを線形ニューロンとしてコンパイルすることで、一級市民として取り扱えることが示されました。著者らは、繰り返しを持つ高階線形プログラミング言語「Cajal」を提案し、そのプログラムが再帰ニューロンに正しくコンパイルされることを証明しました。その結果、データ効率が向上し、学習が速くなることが確認されました。この研究は、学習と一般的なプログラミングの離散構造との間の豊かな相互作用を可能にする点に注目しています。