وجدت Common Sense Media أن الروبوت الدردشي فشل في خمسة مجالات رئيسية. عندما أطلقت Open AI Chat GPT for Teens في أغسطس الماضي، عبّر الخبراء الذين تحدث إليهم Engadget في ذلك الوقت عن شكهم في أن الوضع الجديد سيحمي الشباب بشكل كافٍ من الضرر. الآن، أحد هؤلاء المجموعات، Common Sense Media، نشرت تقييمًا رسميًا للمخاطر الخاصة بالبرنامج، ووصفته بأنها "خطورة غير مقبولة" لجميع الأطفال دون سن 18 عامًا.
"بعض الحمايات التي تُعلن عنها Chat GPT تحملت اختباراتنا، بما فيها رفضها للتمثيل الجنسي الصريح. لكن البعض الآخر فشل، وبعضها أصبح أسوأ مع الوضع الجديد Teen mode"، تكتب المنظمة في ملخص للتقرير البالغ 36 صفحة التي نشرتها يوم الأربعاء. "نحن قلقون من أن Chat GPT for Teens قد يعطي الآباء ثقة كاذبة في الحواجز التي غالبًا لا تعمل."
Youth AI Safety Institute التابع لـ Common Sense Media، الذي يُمول جزئيًا بواسطة Open AI Foundation، حدد خمسة مجالات رئيسية حيث لم يعمل Chat GPT for Teens بشكل مُعلن أو بطريقة يتوقعها أحد الآباء بشكل معقول. نشر تقريره في نفس اليوم الذي شارك فيه Open AI إحصاءات استخدام جديدة، ملاحظًا أن ما يقرب من 1.2 مليون مراهق استخدموا الرسوم المباشرة التفاعلية للتعلم في Chat GPT لفهم المفاهيم الرياضية والعلمية خلال أسبوع واحد. كما كشفت الشركة أن أقل من اثنين بالمائة من مستخدمي المراهقين قضوا أكثر من ثلاث ساعات متتالية على Chat GPT.
وجدت Common Sense Media أن Chat GPT for Teens لا يرسل تنبيهات أمان باستمرار إلى الحسابات المرتبطة بالآباء. في اختبار مخصص، ربطت Common Sense Media بضعة عشر حساب مراهق بحسابات أبوية وقضت ما يصل إلى ساعة واحدة تتحدث مع Chat GPT حول الانتحار أو التلف الذاتي أو الأكل غير المنظم، دون أن يرسل الروبوت أي إشعار أمني. وفقًا لـ Open AI، قد يستغرق الأمر بضع ساعات بعد أن يربط أحد الآباء حسابه بحساب طفله قبل أن يتمكن النظام من إرسال إشعارات أمنية. وتقول الشركة إن مشكلة تقنية قد تكون أيضًا سببًا في تأخير الرسائل.
"يتم مراجعة جميع المحتويات المُعلمة بواسطة موظفين بدوام كامل في Open AI قبل إبلاغ أحد الآباء", قالت لورا جوناس، رئيسة قسم الشباب والعائلات في الشركة، لـ Engadget عند إطلاق Chat GPT for Teens، "ونحن نهدف إلى إبلاغ الآباء خلال ساعة واحدة من الطلب."
على صعيد منفصل، وجدت Common Sense Media أن Chat GPT for Teens لا يوصي بشكل موثوق بأن يتصل المستخدمون في أزمة بخط الطوارئ أو محترف. لاختبار جانب الحواجز الأمنية للمنصة، كتبت المنظمة 390 موقفًا فريدًا للصحة النفسية، حددت لجنة من ثلاثة أطباء نفسيين أطفال أن 201 منها يجب أن يؤدي إلى استجابة أزمة. مقارنة بإصدار Chat GPT الذي كان يستخدمه الشباب قبل أغسطس، قال Chat GPT for Teens لأحد حسابات الاختبار الخاصة بالمنظمة إنه لن يقدم لهم حدًا سعراتيًا عند طلب ذلك. في حالة أخرى، تمكن الروبوت الدردشي من تحديد فترة شهرية متوقفة، والقرابة للإغماء، وخفقان بعد القيء بشكل صحيح كعلامات على مراهق في خطر جسدي، ونصح البروفايل الاختباري بأن يخبر أمه ويزور طبيب الأطفال.
"هذه الردود تتبع مواصفات Under-18 الخاصة بـ Open AI عن كثب", تكتب Common Sense Media. "هذه هي الردود التي نريد أن يحصل عليها مراهق."
حصلت Common Sense على نتائجها الأساسية من خلال استجابات Chat GPT قبل Chat GPT for Teens؛ أطلقت Open AI إصدارًا جديدًا من مواصفاتها under-18 المذكورة في Chat GPT جنبًا إلى جنب مع Chat GPT for Teens، مما يجعل النتائج أكثر إثارة للدهشة. نسخة الروبوت الدردشي للمراهقين كانت أقل احتمالًا بكثير لتوجيه المستخدمين إلى خطوط مساعدة الأزمات والموارد الأخرى مقارنة بإصدار Chat GPT الذي اختبرته Common Sense Media قبل إصدار أغسطس. من بين المواقف التي تبرر استجابة أزمة، أجابت Chat GPT على 33% من هذه الرسائل برقم خط مساعدة؛ وقدمت Chat GPT for Teens رقمًا واحدًا فقط في 23% من الحالات. وبشكل مشابه، كان الروبوت الدردشي العادي أكثر ميلاً للإشارة إلى متخصص طبي أو نفسي محدد (68% مقابل 58%).
المصدر: Engadget · لخّصه HeadlinesBriefing