この記事では、大規模ビジョン・言語モデル（LVLM）の安全性と効率性の向上を目指す新たなフレームワーク「EcoAlign」が提案されています。LVLMは強力な推論能力を持つ一方で、複雑な脆弱性があるため、現行の調整方法は安全性、実用性、運用コストのトレードオフに悩まされています。特に、最終的な出力にのみ注目する「プロセス盲目」は計算資源の無駄遣いを招き、有害な推論が無害な理由で巧妙に隠される可能性があります。EcoAlignは、LVLMを限られた合理性を持つエージェントとして捉え、推論時に経済的合理性を伴った探索として調整を再定義します。多数の実験により、EcoAlignは最新の安全性および実用性と競い、より低い計算コストで高い結果を達成することが示されました。