xAI は、実際のおよび AI 生成の児童性虐待素材（CSAM）で Grok AI モデルを訓練したと訴えられています。これは水曜日に提起された訴訟によるものです。原告の Jane Doe さんは、2000 年代初頭に幼稚園児だったときに、成人男性にレイプされてオンライン販売用の CSAM を制作させられました。彼女は、カナダ児童保護センター（CCCP）を通じて、xAI 上で自身の AI 生成 CSAM を発見しました。Doe さんの画像は NCMEC と CCCP によってハッシュ化され、司法省（DOJ）の被害者警報をトリガーしました。訴状では、加害者がフォーラムで被害者の AI 生成 CSAM の制作について話し合っていたこと、および Grok が元の画像と AI 生成画像の両方で訓練されていた可能性があると主張しています。Doe さんは、xAI が生成された出力を保存してモデルのさらなる訓練に使用していることを恐れています。これは、xAI が CSAM で訓練を行ったと最初に訴えられたケースです。訴訟では、xAI が連邦の児童ポルノ法および Masha の法に違反していると主張し、Doe さんは有害な Grok 出力を停止させ、自身の画像が Grok 出力の生成に使用されたすべての CSAM 被害者を代表する集団訴訟の地位を求めています。