OpenAI menyatakan pada Kamis bahwa serangkaian artikel opini yang mengkritik perang Iran, yang terbit dengan nama penulis palsu di media AS, dibuat menggunakan chatbot ChatGPT milik perusahaan oleh pengguna yang berbasis di Iran sebagai bagian dari "kampanye pengaruh". Perusahaan tersebut mengatakan kampanye itu menempatkan sekitar 100 artikel palsu di setidaknya 20 media berita. Salah satu nama penulis, Ervin Hoskins, muncul di Port St. Joe Star, surat kabar mingguan di Florida, serta di Daily Kos dan Middle East Monitor, yang bersama-sama memiliki lebih dari 3 juta pengikut di Facebook. Menurut alat verifikasi OpenAI, foto penulis yang digunakan oleh Star juga dibuat dengan alat perusahaan tersebut.
Penerbit Star, David Adlerstein, mengatakan kolom tersebut ditawarkan kepada dirinya oleh Peace Voice, sebuah lembaga pemikir liberal kecil di Oregon yang telah mengirimkan konten ke surat kabar itu selama bertahun-tahun. Karena hubungan tersebut, ia tidak memverifikasi identitas penulisnya. Tom Hastings, direktur pendiri Peace Voice, mengatakan organisasinya memperkuat kebijakan anti-AI setelah OpenAI menghubunginya.
OpenAI menyatakan telah memblokir akun-akun di balik kampanye tersebut dan memblokir akses ChatGPT dari Iran. Perusahaan mengatakan aktivitas itu sesuai dengan pelaku komersial yang menjalankan operasi pengaruh berbayar, tetapi tidak dapat mengidentifikasi pelakunya dan telah membagikan informasi tersebut kepada pihak berwenang terkait. Middle East Monitor dan Daily Kos menurunkan artikel-artikel tersebut. Pendiri Daily Kos, Markos Moulitsas, menyebut kampanye itu "sangat merusak" bagi platformnya, tempat kiriman komunitas tidak ditinjau staf sebelum dipublikasikan.
Kejadian ini menyusul kasus sebelumnya ketika Business Insider dan Wired menghapus artikel buatan AI yang terbit dengan nama penulis palsu Margaux Blanchard. Insiden seperti ini menunjukkan bagaimana alat AI dapat membantu persona rekaan lolos dari pemeriksaan editorial, terutama di media kecil yang mengandalkan kiriman dari pihak luar.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing