xAI 被指控在真实和 AI 生成的儿童性虐待材料（CSAM）上训练其 Grok AI 模型，根据周三提起的诉讼。一名被称为 Jane Doe 的原告，她在 2000 年代初还是学龄前儿童时，被成年男子强奸以制作 CSAM 进行线上售卖，她通过加拿大儿童保护中心（CCCP）在 xAI 上发现了自己被 AI 生成的 CSAM。Doe 的图像已被 NCMEC 和 CCCP 进行哈希处理，触发了司法部受害者警报。投诉称，罪犯在论坛上讨论了为受害者制作 AI 生成的 CSAM，而 Grok 可能同时在原始图像和 AI 生成图像上进行了训练。Doe 担心 xAI 存储生成的输出以进一步训练模型。这是首起指控 xAI 在 CSAM 上训练模型的案件。诉讼称 xAI 违反了联邦儿童色情法律和 Masha 法案，Doe 寻求停止有害的 Grok 输出，并代表所有因图像被用于生成 Grok 输出的 CSAM 受害者提起集体诉讼。