arXiv cs.AI

知識に基づく自動特徴抽出のための協調的な大規模言語モデルエージェント

Knowledge-Informed Automatic Feature Extraction via Collaborative Large Language Model Agents

http://arxiv.org/abs/2511.15074v1


本稿では、機械学習モデルの性能が高品質な特徴エンジニアリングに大きく依存していることを前提に、知識に基づく自動特徴抽出の新しいフレームワーク「Rogue One」を紹介します。従来の方法は、大規模言語モデル(LLM)の単一アーキテクチャや単純な定量的フィードバック、外部のドメイン知識との統合不足に制約されていました。「Rogue One」は、専門の三つのエージェント(サイエンティスト、エクストラクター、テスター)が協力して、予測特徴を発見、生成、検証する分散型システムです。このフレームワークは、精度スコアだけでなく、質的なフィードバックメカニズムと「フラッディング・プルーニング」戦略を導入し、特徴の探索と利用のバランスを動的に調整します。また、統合リトリーバル拡張システムを介して外部知識を積極的に組み込むことで、統計的に強力かつ意味的に有意義で解釈可能な特徴を生成します。実験により、Rogue Oneは19の分類データセットと9の回帰データセットで最先端の方法を大きく上回る性能を示しました。