OpenAI melaporkan bahwa mereka telah memblokir dua operasi pengaruh tersembunyi, satu dari Rusia dan satu dari Iran, yang menggunakan modelnya bersama teknik tradisional untuk mendukung entitas “front palsu” yang canggih. Kedua operasi ini memoles pesan geopolitik dan terkait konflik agar tampak sah sebelum disampaikan kepada audiens sasaran.
Operasi Iran menggunakan tujuh persona “jurnalis” untuk menawarkan artikel panjang ke media daring kecil dan menengah di seluruh dunia, dan juga menghasilkan banyak komentar media sosial, umumnya tentang perang AS-Iran. Operasi Rusia merekrut orang-orang yang tidak menyadari keterlibatannya di Amerika Latin untuk menjalankan sebuah “lembaga pemikir”, serta membuat dokumen dan skrip audio “bocoran” palsu. Keduanya banyak memakai AI untuk menyusun laporan internal, sering dengan metode menyesatkan untuk melebih-lebihkan efektivitas mereka.
Operasi tersebut sangat mirip dengan kampanye pengaruh era pra-AI, seperti jurnalis fiktif “Alice Donovan” yang terkait dengan intelijen militer Rusia, dan outlet “Peace Data” yang dijalankan individu-individu yang terhubung dengan Internet Research Agency Rusia. Berdasarkan Skala Breakout IO, OpenAI menilai operasi asal Rusia berada di Kategori 5, yang merupakan operasi level ini pertama yang mereka bongkar, sedangkan operasi asal Iran mencapai Kategori 4. Keduanya berhasil memuat konten di media arus utama, bukan hanya di media sosial.
OpenAI mencatat bahwa operasi yang menempatkan kontennya di media sungguhan cenderung memiliki jangkauan dan dampak tertinggi, berdasarkan tinjauannya terhadap 30 operasi pengaruh tersembunyi yang terungkap sejak awal 2024. AI dapat menambahkan skala, efisiensi, kelancaran bahasa, dan kerapian editorial pada kampanye semacam ini. Para operator dapat memanfaatkan karyawan dan editor yang tidak tahu siapa di balik konten tersebut atau apa motifnya.
Sumber: OpenAI Blog · Diringkas oleh HeadlinesBriefing