HuggingFace

RiskRubric.aiによるAI安全性の民主化

Democratizing AI Safety with RiskRubric.ai

https://huggingface.co/blog/riskrubric


RiskRubric.aiは、AIモデルエコシステムにおける標準化されたリスク評価を提供する新しい取り組みで、Cloud Security AllianceとNoma Securityが主導しています。このプラットフォームは、透明性、信頼性、セキュリティ、プライバシー、安全性、評判の6つの柱を基に、モデルを評価し、比較可能なリスクスコアを提供します。各モデルは、1,000以上の信頼性テスト、200以上のセキュリティプローブ、コードスキャン、プライバシー評価などを受け、0から100のスコアが付与されます。最近の調査では、多くのオープンモデルが透明性などのリスク次元でクローズドモデルを上回ることが示されました。また、すべてのモデルは中程度から低い保護しか提供しない場合があるため、「平均的な」モデルが安全とは限らないことが警告されています。開発者はこのプラットフォームのフィルタを活用し、特定の目的に応じたモデルの選択が可能です。