この記事では、プライバシーとセキュリティのためにローカルの大規模言語モデル（LLM）を使用する際のセキュリティ上のリスクについて述べています。研究によると、ローカルモデルは前線モデルに比べて攻撃に対して脆弱であり、例えば、脆弱性を含むコードを生成するようなプロンプトに95%の確率で反応することが示されています。攻撃者は隠れたバックドアを仕込んだり、開発者のセッション中に即座にコードを実行させたりする方法を用います。特に、ローカルのLLMは悪意ある意図を認識する能力が乏しく、簡単に操作されやすい状況にあります。このため、開発環境や運用環境におけるデータ漏洩やシステムの危険に直面する可能性があります。