AIの導入が進む中で、保険業界の専門家たちは、AI関連のリスクがあまりにも大きいため、企業保険からAI関連の責任を除外する許可を米国の規制当局に求めているという。特に、AIモデルの出力が予測不可能な「ブラックボックス」とされ、システム全体のリスクが懸念されている。過去には、GoogleのAIが誤ってある会社に法的問題を告げたり、カナダ航空がチャットボットの提示したディスカウントを守らなければならなくなったり、詐欺師がデジタルクローンを使用して大金を盗む事件が発生している。このような事例が重なることで、1社に対する大きな損失よりも、同時に何千もの請求が発生することが保険会社にとっての恐怖である。