xAI पर अपने Grok AI मॉडल को वास्तविक और AI-जनित बच्चों के यौन शोषण सामग्री (CSAM) पर प्रशिक्षित करने का आरोप लगाया गया है, जैसा कि बुधवार को दायर एक मुकदमे में कहा गया है। एक वादी जिसका नाम Jane Doe है, जो 2000 के दशक की शुरुआत में प्रीस्कूल उम्र की थी जब वयस्क पुरुषों ने उसके साथ बलात्कार करके CSAM बनाया था जिसकी ऑनलाइन बिक्री की जाती थी, उसने कनाडाई सेंटर फॉर चाइल्ड प्रोटेक्शन (CCCP) के माध्यम से xAI पर अपने आप के AI-जनित CSAM की खोज की। Doe की छवियों को NCMEC और CCCP द्वारा हैश किया गया है, जिससे DOJ पीड़ित चेतावनियां ट्रिगर हुई हैं। शिकायत में आरोप लगाया गया है कि अपराधियों ने फोरम पर पीड़ितों के AI-जनित CSAM बनाने की चर्चा की थी, और Grok को संभवतः दोनों मूल और AI-जनित छवियों पर प्रशिक्षित किया गया हो सकता है। Doe डरती है कि xAI उत्पन्न आउटपुट को संग्रहीत करके मॉडल को आगे प्रशिक्षित करता है। यह पहला मामला है जिसमें xAI पर CSAM पर प्रशिक्षण देने का आरोप लगाया गया है। मुकदमे में दावा किया गया है कि xAI ने संघीय बाल पोर्नोग्राफी कानून और Masha के कानून का उल्लंघन किया है, और Doe हानिकारक Grok आउटपुट को रोकने और सभी CSAM पीड़ितों का प्रतिनिधित्व करने के लिए एक वर्ग कार्रवाई की मांग कर रही है जिनकी छवियों का उपयोग Grok आउटपुट उत्पन्न करने के लिए किया गया था।