xAI-কে তার Grok AI মডেলকে বাস্তব এবং AI-উত্পাদিত শিশু যৌন শোষণ উপকরণ (CSAM) উপর প্রশিক্ষিত করার জন্য অভিযোগ করা হয়েছে, যা বুধবার দायर একটি মামলা অনুযায়ী। একজন 원고 যিনি Jane Doe নামে পরিচিত, যিনি ২০০০-এর দশুর শুরুতে প্রি-স্কুল বয়সের ছিলেন যখন বয়স্ক পুরুষদের द्वारा তাদের সাথে बलात্কার করা হয়েছিল CSAM তৈরি করার জন্য যা অনলাইন বিক্রয়ের জন্য ছিল, তিনি কানাডিয়ান সেন্টার ফর চাইল্ড প্রোটেকশন (CCCP) এর মাধ্যমে xAI-এ নিজের AI-উত্পাদিত CSAM খুঁজে পেয়েছেন। Doe-র ছবিগুলো NCMEC এবং CCCP দ্বারা হ্যাশ করা হয়েছে, যা DOJ শিকার সতর্কতা ট্রিগার করেছে। অভিযোগে आरोप लगाया गया है कि अपराधी ফোরামে শিকারদের AI-উত্পাদিত CSAM তৈরি করার কথা বলছিলেন, এবং Grok সম্ভবত উভয় মূল এবং AI-উত্পাদিত ছবির উপর প্রশিক্ষিত হয়েছে। Doe ভয় পাচ্ছেন যে xAI উত্পাদিত আউটপুট সংরক্ষণ করে মডেলকে আরও প্রশিক্ষিত করে। এটি প্রথম মামলা যেখানে xAI-কে CSAM-কে প্রশিক্ষণ danych হিসাবে ব্যবহার করার জন্য অভিযোগ করা হয়েছে। মামলায় দावा করা गया है कि xAI ने संघीय শিশু পর্নোগ্রাফি আইন এবং মাশা আইন লঙ্ঘন किया है, এবং Doe হানিকারক Grok আউটপুট বন্ধ করতে এবং যাঁদের ছবি Grok আউটপুট তৈরি করতে ব্যবহৃত হয়েছে সকল CSAM শিকারকে প্রতিনিধিত্ব করতে একটি শ্রেণी কার্যাবাহী মামলা চান।