オープンウェイトの生物基盤モデルは、科学研究や医薬品開発を加速する可能性を秘めていますが、悪意ある行為者による生物兵器の開発を助長するリスクも抱えています。このリスクを軽減するために、従来のアプローチでは、事前学習の際にバイオハザードデータをフィルタリングすることに焦点を当てています。しかし、この方法の有効性は不明確であり、特に悪意のある使用にモデルをファインチューニングしようとする決意のある行為者に対しては、効果が薄い可能性があります。これに対処するために、著者らは、バイオ基盤モデルの二重使用能力を減らす手順の堅牢性を評価するフレームワーク「eval」を提案しました。このフレームワークは、モデルのウイルス理解をシーケンスモデリング、変異効果の予測、および病原性の予測の観点から評価します。結果として、現在のフィルタリング手法はあまり効果的でなく、除外された知識がファインチューニングを通じて迅速に回復されることが示されました。このため、オープンウェイトの生物基盤モデルに対する安全性とセキュリティ戦略の更なる研究の必要性が強調されました。