Sebuah studi mengungkapkan bahwa chatbot AI seperti Claude dan ChatGPT menawarkan harga belanja berbeda berdasarkan kekayaan pengguna, yang berpotensi menyebabkan lebih banyak seruan regulasi. Para peneliti membuat profil untuk pengguna "kaya" dan "berpenghasilan rendah" dan menemukan bahwa profil kaya diarahkan ke opsi yang lebih mahal. Misalnya, ketika diminta tiket pesawat tanpa menentukan harga, model GPT-5 dari OpenAI menyarankan tiket seharga $479 untuk profil berpenghasilan tinggi dan tiket seharga $191 untuk profil berpenghasilan rendah. Bahkan ketika diminta penerbangan termurah, profil kaya menerima tiket seharga $21 lebih mahal.
"Kita tahu bahwa situs web hanya melihat cookie dan riwayat penelusuran kita, tetapi asisten AI dengan akses ke kotak masuk dan kalender kita dapat melihat segalanya," kata Aman Priyanshu, rekan penulis laporan dari Cisco Foundation AI. "Kami mengajukan pertanyaan sederhana: jika kita menyerahkan semua itu kepada asisten kita dan memintanya berbelanja untuk kita, akankah ia menggunakan pengetahuan itu melawan kita, seperti yang mungkin dilakukan penjual?"
Konsumen semakin beralih ke AI untuk berbelanja, dengan lebih dari sepertiga di AS, Inggris, dan Prancis menggunakan alat AI untuk ide produk atau perbandingan. Pengecer mendesain ulang situs web untuk menampilkan produk dalam hasil chatbot, dan Adobe memperkirakan lalu lintas yang dibantu AI ke situs ritel AS akan meningkat 130% selama musim liburan.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing