この記事では、AIシステムを既存のプロセスに導入する前に、そのシステムが既存のものと比較してリスクを追加せずに改善されるかどうかを評価する必要性について述べられています。従来の評価手法はグラウンドトゥルースに依存していましたが、これは結果が遅れたり、データが不完全だったりするため、利用困難な場合があります。そのため著者たちは、限定的なリスク評価フレームワークを提案しています。このフレームワークでは、絶対的なリスクではなく、システム間の相対的な違いに焦点を当て、予測可能性、能力、相互作用の優位性という3つの評価方法を強調しています。このアプローチにより、ソフトウェアチームはAIが成果を向上させる場所や新たなリスクをもたらす場所を特定し、責任を持ってシステムを採用するための実用的な指針を得ることができます。