本論文では、従来の監視機械学習モデル（例えば決定木）が入力特徴の選択に大きく依存する一方で、ニューラルネットワークは生データから有用な表現を学習できるものの、解釈可能性に欠け、高度なハードウェアが必要であるという問題を指摘します。著者たちは「学習されたプログラム的表現（LeaPR）」モデルという概念を提案し、コードとして表現された任意の特徴と決定木予測器を組み合わせます。大規模言語モデル（LLMs）を用いて特徴関数を合成し、監視データからLeaPRモデルを学習するための二つのアルゴリズムを開発しました。これにより、チェスの局面評価や画像・テキスト分類の実験で、ニューラルネットワークに匹敵する高品質な予測器を学習することに成功し、特徴や予測が容易に検査・理解可能な柔軟なパラダイムを示しています。