OpenAI ने गुरुवार को कहा कि ईरान युद्ध की आलोचना करने वाले विचार-लेखों की एक श्रृंखला, जो अमेरिकी आउटलेट्स में नकली बाइलाइन के तहत प्रकाशित हुई थी, ईरान में स्थित उपयोगकर्ताओं द्वारा उसके ChatGPT चैटबॉट से तैयार की गई थी, जो एक "प्रभाव अभियान" का हिस्सा था। कंपनी के अनुसार, इस अभियान ने कम से कम 20 समाचार संगठनों में लगभग 100 नकली लेख प्रकाशित करवाए। Ervin Hoskins नाम की एक बाइलाइन फ़्लोरिडा के एक साप्ताहिक समाचार-पत्र Port St. Joe Star में छपी, साथ ही Daily Kos और Middle East Monitor में भी, जिनके फ़ेसबुक पर कुल मिलाकर 30 लाख से अधिक फ़ॉलोअर हैं। OpenAI के सत्यापन उपकरण के अनुसार, Star द्वारा इस्तेमाल की गई लेखक की तस्वीर भी कंपनी के उपकरणों से बनाई गई थी।
Star के प्रकाशक David Adlerstein ने कहा कि यह कॉलम ओरेगन स्थित एक छोटे उदारवादी थिंक टैंक Peace Voice ने उन्हें भेजा था, जो वर्षों से इस अख़बार को सामग्री भेजता रहा था। इस संबंध के कारण उन्होंने लेखक की पहचान की पुष्टि नहीं की। Peace Voice के संस्थापक निदेशक Tom Hastings ने कहा कि OpenAI से संपर्क होने के बाद संगठन ने अपनी AI-विरोधी नीति को और सख़्त कर दिया।
OpenAI ने कहा कि उसने इस अभियान के पीछे के खातों पर प्रतिबंध लगा दिया है और ईरान से ChatGPT तक पहुँच को अवरुद्ध करता है। कंपनी ने कहा कि गतिविधि एक व्यावसायिक कर्ता द्वारा संचालित, भाड़े के प्रभाव अभियान के अनुरूप थी, लेकिन वह संबंधित कर्ता की पहचान नहीं कर सकी और इसकी जानकारी संबंधित अधिकारियों के साथ साझा की है। Middle East Monitor और Daily Kos ने ये लेख हटा दिए। Daily Kos के संस्थापक Markos Moulitsas ने इस अभियान को अपने मंच के लिए "अत्यधिक विनाशकारी" बताया, जहाँ समुदाय की पोस्ट प्रकाशन से पहले स्टाफ़ द्वारा जाँची नहीं जातीं।
यह घटना पहले के उन मामलों के बाद आई है जिनमें Business Insider और Wired ने Margaux Blanchard नाम की नकली बाइलाइन से प्रकाशित AI-निर्मित लेख हटाए थे। ऐसी घटनाएँ दिखाती हैं कि AI उपकरण गढ़े गए व्यक्तित्वों को संपादकीय जाँच से कैसे निकलवा सकते हैं, खासकर उन छोटे आउटलेट्स में जो बाहरी योगदान पर निर्भर हैं।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित