arXiv cs.LG

LLMはどこで苦戦しているのか?コード生成ベンチマークの詳細分析

Where Do LLMs Still Struggle? An In-Depth Analysis of Code Generation Benchmarks

http://arxiv.org/abs/2511.04355v1


この記事では、大型言語モデル(LLM)がコード生成タスクにおいて抱える課題について分析されています。LLMはこれまでに驚異的な成功を収めているものの、いくつかの重要なタスクにおいて依然として継続的な失敗が見られます。研究者たちは、4つの主要なベンチマークにおけるコード生成の課題を調査し、LLMが特に失敗しやすいタスクを特定しました。分析の結果、LLMの弱点には4つの繰り返し現れるパターンと、失敗を引き起こす共通の複雑さがあることが明らかになりました。この知見は、今後のモデル開発における方向性を示すために重要であるとされています。