HackerNews

Google脅威インテリジェンスグループのAI脅威トラッカー:脅威行為者によるAIツールの使用の進展

Google Threat Intel Group AI Threat Tracker:Advances in Threat Actor AI Tool Use

https://cloud.google.com/blog/topics/threat-intelligence/threat-actor-usage-of-ai-tools


Google脅威インテリジェンスグループ(GTIG)は、最近の脅威の動向に関する分析を基に、脅威行為者が単なる生産性向上だけでなく、新たなAI対応マルウェアを用いた活動に移行していることを報告しています。これにより、AIの悪用が進化し、実行中に動的に振る舞いを変えるツールが登場しています。具体的には、PROMPTFLUXやPROMPTSTEALといったマルウェアが、大規模言語モデルを使用して攻撃を実行中に悪意あるスクリプトを生成する手法が確認されました。また、脅威行為者はAIの安全ガードを回避するために、社会工学的な手法を模倣した提示を行う傾向が強まっています。加えて、2025年には悪用されるAIツールの地下市場が成熟し、複数の多機能ツールが提供されるようになりました。国家スポンサーによる脅威行為者は、攻撃の全ライフサイクルを強化するために、マルウェアの行動を動的に変える新しいAI機能を開発しています。