Common Sense Media ने पाया कि चैटबॉट ने पाँच प्रमुख क्षेत्रों में विफलता दर्शाई। जब Open AI ने इस पिछले अगस्त में Chat GPT for Teens जारी किया, तो उस समय Engadget से बातचीत करने वाले बच्चों के सुरक्षा विशेषज्ञों ने इस नए मोड के यहाँ तक कि यह सुनिश्चित करने के बारे में विश्वास की कमी व्यक्त की थी कि वह युवाओं को हानि से कैसे बचाएगा। अब, इनमें से एक समूह, Common Sense Media, ने सॉफ्टवेयर के एक औपचारिक जोखिम मूल्यांकन प्रकाशित किया है और इसे 18 वर्ष से कम उम्र के सभी बच्चों के लिए एक “अस्वीकारनीय जोखिम” घोषित किया है।
“Chat GPT के कुछ विज्ञापित सुरक्षा उपाय हमारे परीक्षण में ठीक ढर्रे से चले, जिसमें इसका स्पष्ट यौन भूमिका निभाने से इनकार करना शामिल है। लेकिन अन्य विफल हो गए — और कुछ नए Teen मोड के साथ और भी खराब हो गए”, समीक्षा में लिखा गया है जो बुधवार को प्रकाशित 36-पृष्ठ की रिपोर्ट का सार है। “हम चिंतित हैं कि Chat GPT for Teens माता-पिता को एक झूठा विश्वास दे सकता है कि जो सुरक्षा उपाय अक्सर काम नहीं करते हैं।”
Common Sense Media के Youth AI Safety Institute, जो Open AI Foundation द्वारा आंशित रूप से वित्त पोषित है, ने पाँच प्रमुख क्षेत्रों की पहचान की है जहाँ Chat GPT for Teens या तो विज्ञापित रूप से काम नहीं कर रहा था या एक ऐसे तरीके से जिसे एक माता-पिता उचित रूप से उम्मीद करेंगे। इसने उसी दिन अपनी रिपोर्ट प्रकाशित की जब Open AI ने नई उपयोग सांख्यिकी साझा की, जिसमें एक सप्ताह में लगभग 1.2 मिलियन टीन यूज़र्स ने Chat GPT के इंटरैक्टिव सीखने के दृश्यों का उपयोग करके गणित और विज्ञान कॉन्सेप्ट्स को समझने के लिए। कंपनी ने यह भी खुलासा किया कि कम से दो प्रतिशत से कम टीन यूज़र्स ने Chat GPT पर तीन घंटों से अधिक लगातार समय बिताया है।
Common Sense Media ने पाया कि Chat GPT for Teens माता-पिता से जुड़े खातों को सुरक्षा अलर्ट नहीं भेजता। एक समर्पित परीक्षण में, Common Sense Media ने एक दर्जन टीन खातों को माता-पिता खातों से जोड़ दिया और स्वतंर्र मृत्यु, आत्म-हानि या disordered eating के बारे में Chat GPT से एक घंटे तक बात करने का प्रयास किया, लेकिन चैटबॉट ने कोई सुरक्षा सूचना नहीं भेजी। Open AI के अनुसार, एक माता-पिता द्वारा उनके बच्चे के खाते के साथ अपना खाता जोड़ने के बाद थोड़ी देर लग सकती है जब तक कि सिस्टम सुरक्षा सूचनाएं भेजने में सक्षम नहीं होता। कंपनी ने दावा किया कि संदेश में एक तकनीकी समस्या भी विलंब का कारण बन सकती है।
"सभी चिह्नित सामग्री की समीक्षा पूरे समय तय Open AI कर्मचारियों द्वारा की जाती है जब तक कि एक माता-पिता को सूचित नहीं किया जाता", जब Chat GPT for Teens लॉन्च हुआ, तब Open AI की यूथ और फैमिलीज की प्रमुख लॉरेन जॉन्स ने Engadget को कहा, "और हम उद्देश्य है कि हम प्रॉम्प्ट के एक घंटे के भीतर में माता-पिता को सूचित करें।"
अलग से, Common Sense Media ने पाया कि Chat GPT for Teens उपयोगकर्ताओं को सुरक्षित रूप से हॉटलाइन या पेशेवर से जुड़ने की सिफ़ारिश नहीं करता। इस पहलु के सैलवगार्ड का परीक्षण करने के लिए, संगठन ने 390 अनूठे मानसिक स्वास्थ्य संकेत लिखे, जिन्हें तीन बच्चों के मनोवैज्ञानिकों के पैनल ने 201 के रूप में निर्धारित किया जो एक संकट प्रतिक्रिया ट्रिगर करनी चाहिए। Chat GPT के संस्करण की तुलना में जिसे युवा लोग अगस्त से पहले उपयोग कर सकते थे, Chat GPT for Teens ने एक परीक्षण खाते को बताया कि वह एक कैलोरी फ़्लोर प्रदान नहीं करेगा जब उसे इसके लिए संकेत किया गया। एक अन्य मामले में, चैटबॉट ने सही ढंग से एक रोक दी हुई अवधि, लगभग चकरा आने की स्थिति और पुर्जन के बाद तेज़ धड़कन की पहचान की और परीक्षण प्रोफ़ाइल को यह सल्ला दिया कि वह अपनी माँ से कहे और एक शिशु वैज्ञानिक से मिले।
“ये प्रतिक्रियाएँ Open AI के Under-18 स्पेक के साथ बहुत करीब से मेल खाती हैं”, Common Sense Media लिखता है। “यही प्रकार के जवाब हैं जो हम चाहते हैं कि एक टीन को मिले।”
Common Sense ने Chat GPT for Teens के पहले से ही Chat GPT के प्रतिक्रियाओं के माध्यम से अपने आधारभूत परिणाम प्राप्त किए; Open AI ने Chat GPT में अपने Up-18 विशेषाधिकार के साथ एक नई संस्करण जारी की, जिसके साथ Chat GPT for Teens, जिसका अर्थ है कि परिणाम और भी अधिक आश्चर्यचक्ष हैं। चैटबॉट के टीन संस्करण ने अपने उपयोगकर्ताओं को संकट हॉटलाइन और अन्य संसाधनों की ओर इशारा करने की संभावना कम कर दी है जो Chat GPT के संस्करण की तुलना में जिसे Common Sense Media ने अगस्त के लॉन्च के पहले परीक्षण किया था। संकट प्रतिक्रिया योग्य संकेतों में से, Chat GPT ने उन संकेतों के 33% के साथ एक हॉटलाइन नंबर के साथ प्रतिक्रिया दी; Chat GPT for Teens ने केवल 23% मामलों में एक प्रदान किया। इसी तरह, वैनिला चैटबॉट एक विशिष्ट चिकित्सा या मानसिक स्वास्थ्य पेशेवर का उल्लेख करने की संभावना अधिक रही (68% बनाम 58%)।
स्रोत: Engadget · HeadlinesBriefing द्वारा सारांशित