Seorang pemasar membuat situs web berisi 50.000 statistik karangan dengan biaya sekitar $50, dihasilkan dalam satu hari menggunakan GPT-4.1 tanpa memeriksa satu pun angka. Situs ini diluncurkan di domain baru stateglobe.com dan memosisikan diri sebagai penyedia data SEO, pemasaran konten, media sosial, e-commerce, dan teknologi web dari 200 negara.
Google mengeluarkan halaman-halaman tersebut dari indeksnya setelah dua pembaruan tak lama setelah peluncuran, dan selama berbulan-bulan situs ini hampir tidak terlihat di hasil Google. ChatGPT, bagaimanapun, terus mengutipnya. Selama tujuh bulan, situs ini mendatangkan lebih dari 10.000 sesi dari AI dan tautan dari lebih dari 330 domain perujuk, termasuk Shopify, Bluehost, dan DHL. Angka-angka rekaan itu juga muncul dalam sebuah makalah akademik dan dalam riset investasi sebuah bank.
Eksperimen ini berangkat dari penelitian tentang bagaimana model bahasa besar mencari data yang dapat dipercaya ketika kekurangan informasi. Karena konten yang sensitif waktu sering ditulis dengan LLM, model tersebut kerap mencari statistik untuk mengisi celah. Penulis berpendapat bahwa sebagian besar saran generative engine optimization hanya berfokus pada upaya memunculkan merek dalam jawaban AI, sedangkan tes ini meneliti apa yang terjadi setelah orang menggunakan ulang keluaran tersebut.
Data Cloudflare menunjukkan lebih dari 600.000 permintaan bot dalam 30 hari terakhir, sekitar 72.000 di antaranya berasal dari ChatGPT-User, agen yang digunakan ChatGPT untuk mengambil halaman. Hasilnya menyoroti risiko bagi siapa pun yang mengandalkan pencarian AI untuk fakta: angka hasil rekaan dapat menyebar luas setelah dipublikasikan, bahkan ketika mesin pencari tidak lagi menampilkannya.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing