Googleは、開発者向けに設計されたAIモデル「Gemma」が、共和党のマ－シャ・ブラックバーン上院議員についての虚偽の犯罪容疑をでっち上げたとクレームを受けた後、このモデルをAI Studioプラットフォームから撤回しました。Googleによると、Gemmaは事実確認のために使用されるべきではなく、開発者専用のツールとして設計されているため一般消費者には利用できません。ブラックバーン議員は、Gemmaが「彼女がレイプで告発された」と質問に答えた際、虚偽の情報を提供したと主張しました。Googleは今後Gemmaへのアクセスを制限し、 APIを通じて開発者にのみ提供すると述べました。AIによる虚偽情報の問題は依然として業界全体で深刻であり、Googleは「ハルシネーション」を最小限に抑えることを約束しています。議員はモデルを完全に無効化するよう求めています。