يحذر باحثو السلامة من أن المحتوى الصريح المولَّد بالذكاء الاصطناعي ينتشر إلى حد كبير دون رقابة، بينما تفعل الجهات التنظيمية القليل لوقفه. وجدت دراسة شارك في تأليفها باحثون من Google وشملت مستخدمي الإنترنت في الولايات المتحدة وأستراليا والمملكة المتحدة أن مثل هذا المحتوى غير المُوافَق عليه يُشارَك غالبًا عبر الرسائل الخاصة أو يُخزَّن في السحب الخاصة، حيث يقل احتمال اكتشافه أو الإبلاغ عنه. وخلص الباحثون إلى أن نقطة التدخل الأهم تظل أدوات الذكاء الاصطناعي الضارة المستخدمة في إنشاء صور جنسية مزيفة.
تشير اختبارات الفريق الأحمر في الأشهر الأخيرة إلى أن مولّدات الصور الرائدة من Google وOpenAI قد تصبح أسوأ في حظر المخرجات الصريحة كلما ازدادت قدرة. وقد أطلقت White Circle، وهي شركة ذات منفعة عامة مدعومة من كبار القادة والباحثين في Anthropic وDeepMind وHugging Face وOpenAI، إنذارًا. ففي مسودة نُشرت الشهر الماضي، كشف باحثوها عن ثغرات في ضوابط الحماية لدى DALL·E 3 وNano Banana 2 من Google وGPT-Image-2. وباستخدام أدوات جاهزة واستدعاءات API، تجاوزوا مرشحات السلامة وأنتجوا محتوى صريحًا في نحو 13 في المئة من الحالات، وهي نسبة تجاوز يصفونها بأنها الأعلى بين جميع الأساليب التي اختُبرت وفق المعيار نفسه.
كما تفيد White Circle بأن النماذج الأحدث، ChatGPT Images 2.5 وNano Banana 2.1، "أكثر عرضة للاختراق بشكل ملحوظ" من سابقاتها. وتخطط الشركة لنشر خط هجماتها كمصدر مفتوح وعرض البحث في مؤتمر NeurIPS 2026 في نوفمبر. ولم ترد Google ولا OpenAI على طلبات التعليق من Ars Technica.
وقال الرئيس التنفيذي Denis Shilov إن النتائج مقلقة لأن الثغرة نفسها قد تؤثر في الدفاعات التي يجري تحديثها لحظر سلوكيات ضارة أخرى في الذكاء الاصطناعي، مثل الاختراق الإلكتروني. والرسالة الأساسية للشركة أن دفاعات السلامة في الذكاء الاصطناعي لدى المختبرات الرائدة أضعف مما تقرّ به.
المصدر: Ars Technica · لخّصه HeadlinesBriefing