arXiv cs.AI

新たな生成的AIアルゴリズムのための共同ペネトレーションテストスイート

Collaborative penetration testing suite for emerging generative AI algorithms

http://arxiv.org/abs/2510.19303v1


本記事では、生成的AIアルゴリズムに特有の脆弱性に対抗するための「共同ペネトレーションテストスイート」が提案されています。生成的AIの脆弱性には、モデルの逆転、データの汚染、敵対的入力などが含まれ、これに加えて量子コンピュータによるRSAやECC暗号の破壊の脅威があります。提案されたソリューションは、動的アプリケーションセキュリティテスト(DAST)、静的アプリケーションセキュリティテスト(SAST)、および他のツールを統合したものです。そして、CI/CDパイプラインとの統合を通じてAIと情報セキュリティの専門家が協力できるワークフローを構築することを目指しています。テストの結果、300以上の脆弱性が特定され、2週間で高Severityの問題が70%減少し、ブロックチェーンに記録された脆弱性の解決効率が90%に達しました。また、量子耐性のある暗号化技術はテストで100%の整合性を維持しました。この取り組みは、量子AIセキュリティプロトコルの形成に寄与することを目指しています。