HeadlinesBriefing favicon HeadlinesBriefing.com

Laporan Palsu AI Militer AS Nyaris Memicu Perang

Hacker News •
×

Laporan intelijen, yang beredar di militer AS musim semi ini selama perang dengan Iran, memicu alarm: sebuah kapal China di Timur Tengah mengangkut komponen program senjata nuklir. Militer AS bergerak dengan rencana untuk mencegat kapal tersebut, menurut empat sumber. Anggota bersenjata bersiap menaiki kapal, dan pesawat militer berada di udara, kata dua sumber.

Tepat sebelum operasi yang direncanakan, pejabat menggali lebih dalam dan menemukan bahwa laporan — yang disusun oleh seorang analis komando operasi khusus — dihasilkan dengan AI. Chatbot yang digunakan analis tersebut secara tidak akurat mengidentifikasi material yang diangkut kapal. CNN tidak dapat mengetahui apa kargo yang salah diidentifikasi itu.

Laporan itu "sepenuhnya palsu", kata seorang sumber, tetapi juga "hampir memicu perang". Operasi AS apa pun terhadap kapal China bisa berisiko berkembang menjadi konflik bersenjata. Di seluruh militer dan komunitas intelijen AS, pejabat mendorong untuk menenun AI ke hampir setiap aspek pekerjaan mereka.

Namun episode ini menggarisbawahi risiko mendalam dari penggunaan teknologi yang kuat, baru, dan relatif kurang dipahami ini untuk penargetan di tengah perang.