Selama berbulan-bulan, seorang agen asing telah membina beberapa tokoh paling kuat di Amerika Serikat, memberi mereka kebohongan untuk mengubah mereka menjadi sekutu yang tidak sadar. Pengendali mata-mata itu adalah jaringan yang didukung Rusia bernama Portal Kombat, yang mengoperasikan ratusan situs web untuk menyebarkan disinformasi. Targetnya adalah model AI seperti Chat GPT, Grok, dan Gemini, yang bertujuan untuk memengaruhi respons mereka kepada pengguna.
Portal Kombat mendorong lebih dari 3,6 juta cerita pada tahun 2024, menurut News Guard, yang menemukan bahwa propagandanya secara teratur muncul di sistem obrolan AI. Musuh Amerika, termasuk China dan Rusia, menggunakan AI untuk mendorong klaim palsu dan menghasilkan konten palsu. Bahaya terbesar adalah kemampuan AI untuk membujuk melalui keterlibatan berkelanjutan, tidak seperti pamflet statis.
Untuk melawan, orang Amerika perlu teknik kontra-mata-mata: menggunakan banyak sumber, menguji keandalan, dan menghindari rasa puas diri. Alat-alat ini membantu menavigasi dunia di mana aktor asing dan politisi domestik memanipulasi konten AI. Algoritma media sosial telah lama memperkuat propaganda, tetapi personalisasi dan interaktivitas AI adalah hal baru.
AI dapat mengidentifikasi keyakinan Anda dan membuat konten yang disesuaikan secara real-time, tugas yang dulunya memakan waktu berminggu-minggu bagi tim. Perusahaan seperti Go Laxy telah mengiklankan sistem seperti itu, menggunakan AI untuk menambang data pengguna dan mengubah opini politik. Kita semua harus mulai berpikir seperti mata-mata untuk melawan kampanye pengaruh.
Sumber: New York Times Top Stories · Diringkas oleh HeadlinesBriefing