xAI обвиняют в обучении своих моделей ИИ Grok на реальных и ИИ-сгенерированных материалах сексуального насилия над детьми (CSAM), согласно иску, поданному в среду. Истец, известная как Джейн Доу, которая была дошкольного возраста в начале 2000-х, когда взрослые мужчины изнасиловали ее для создания CSAM для онлайн-продажи, обнаружила ИИ-сгенерированный CSAM себя в xAI через Канадский центр защиты детей (CCCP). Изображения Доу были захешированы NCMEC и CCCP, что спровоцировало оповещения о жертвах от Министерства юстиции. В иске утверждается, что преступники обсуждали на форумах создание ИИ-сгенерированного CSAM для жертв, и что Grok мог быть обучен как на оригинальных, так и на ИИ-сгенерированных изображениях. Доу опасается, что xAI хранит сгенерированные выходы для дальнейшего обучения моделей. Это первый случай, когда xAI обвиняют в обучении на CSAM. В иске утверждается, что xAI нарушил федеральные законы о детской порнографии и закон Маша, и Доу стремится остановить вредные выходы Grok и представить всех жертв CSAM, чьи изображения использовались для генерации выходов Grok, в рамках группового иска.