एक मार्केटर ने लगभग $50 की लागत से 50,000 गढ़े हुए आंकड़ों वाली एक वेबसाइट बनाई, जिन्हें उसने GPT-4.1 की मदद से एक ही दिन में तैयार किया और किसी एक भी आंकड़े की जांच नहीं की। यह साइट नए डोमेन stateglobe.com पर लॉन्च हुई और खुद को 200 देशों से SEO, कंटेंट मार्केटिंग, सोशल मीडिया, ई-कॉमर्स और वेब तकनीक का डेटा देने वाली बताती थी।
लॉन्च के कुछ ही बाद दो अपडेट के बाद Google ने इन पेजों को डीइंडेक्स कर दिया, और कई महीनों से यह साइट Google परिणामों में लगभग अदृश्य है। हालांकि, ChatGPT इसे लगातार उद्धृत करता रहा। सात महीनों में इस साइट पर 10,000 से अधिक AI सत्र आए और 330 से अधिक रेफरिंग डोमेन, जिनमें Shopify, Bluehost और DHL शामिल हैं, से लिंक मिले। ये मनगढ़ंत आंकड़े एक शैक्षणिक शोधपत्र और एक बैंक के निवेश शोध में भी सामने आए।
यह प्रयोग इस शोध से उपजा कि बड़े भाषा मॉडल जानकारी न होने पर विश्वसनीय डेटा कैसे खोजते हैं। चूंकि समय-संवेदी सामग्री अक्सर LLM से लिखी जाती है, इसलिए मॉडल अंतराल भरने के लिए अक्सर आंकड़े खोजते हैं। लेखक का तर्क है कि अधिकांश जनरेटिव इंजन ऑप्टिमाइज़ेशन सलाह केवल इस पर केंद्रित है कि ब्रांड AI उत्तर में आए, जबकि यह परीक्षण देखता है कि लोगों द्वारा उस आउटपुट को दोबारा उपयोग करने के बाद क्या होता है।
Cloudflare के डेटा के अनुसार पिछले 30 दिनों में 600,000 से अधिक बॉट अनुरोध दर्ज हुए, जिनमें लगभग 72,000 ChatGPT-User से थे, वह एजेंट जिसके जरिए ChatGPT पेज लाता है। ये परिणाम उन लोगों के लिए जोखिम उजागर करते हैं जो तथ्यों के लिए AI खोज पर निर्भर हैं: एक बार प्रकाशित होने के बाद गढ़े हुए आंकड़े व्यापक रूप से फैल सकते हैं, भले ही सर्च इंजन उन्हें अब न दिखाएं।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित