xAI wird beschuldigt, seine Grok KI-Modelle auf echtem und KI-generiertem Kindesmissbrauchsmaterial (CSAM) trainiert zu haben, wie in einer am Mittwoch eingereichten Klage behauptet wird. Eine Klägerin, bekannt als Jane Doe, die in den frühen 2000er Jahren im Vorschulalter war, als erwachsene Männer sie vergewaltigten, um CSAM für den Online-Verkauf zu produzieren, entdeckte über das Kanadische Zentrum zum Schutz von Kindern (CCCP) KI-generiertes CSAM von sich selbst auf xAI. Does Bilder wurden von NCMEC und CCCP gehasht, was DOJ-Opferwarnungen auslöste.

Die Klage behauptet, dass Täter in Foren darüber sprachen, KI-generiertes CSAM von Opfern zu erstellen, und dass Grok möglicherweise sowohl auf Original- als auch auf KI-generierten Bildern trainiert wurde. Doe befürchtet, dass xAI die generierten Ausgaben speichert, um die Modelle weiter zu trainieren. Dies ist der erste Fall, in dem xAI beschuldigt wird, auf CSAM trainiert worden zu sein.

Die Klage behauptet, dass xAI gegen bundesweite Kinderpornografie-Gesetze und das Masha-Gesetz verstoßen hat, und Doe versucht, schädliche Grok-Ausgaben zu stoppen und alle CSAM-Opfer zu vertreten, deren Bilder zur Erstellung von Grok-Ausgaben verwendet wurden, im Rahmen einer Sammelklage.