Peneliti menemukan parameter autorun=1 yang tidak terdokumentasi di Copilot Microsoft, memungkinkan penyerang menyisipkan prompt langsung ke URL. Sebuah tautan yang dirancang dengan cermat, seperti https://copilot.microsoft.com/?q=&autorun=1, dapat memicu Copilot untuk memindai Gmail pengguna dan mengirim data sensitif ke titik akhir yang dikendalikan oleh penyerang. Sebuah injeksi mengekstrak alamat pengirim terbaru, menyimpannya dalam variabel bernama SUPPORT, lalu mempostingnya ke URL webhook.site.
Prompt lain mencari kata sandi di kotak masuk, mengekstrak kredensial yang ditemukan dalam bentuk terenkode base64. Penyerang menyebarkan tautan melalui email, obrolan, atau kode QR; setelah diklik, Copilot menjalankan prompt tersembunyi tanpa persetujuan pengguna, bahkan jika tab browser segera ditutup. Varonis menggambarkan langkah-langkahnya dan kemudian mengungkap serangan kedua yang memakan memori permanen Copilot melalui metadata tersembunyi, memungkinkan respons bias atau tindakan otomatis di masa depan.
Kerentanan ini menunjukkan bahwa penghalang Copilot dapat dihindari, menempatkan pengguna pada risiko pencurian data dan manipulasi. Microsoft belum merilis patch, tetapi menyarankan pengguna untuk meninjau izin Copilot dan menghindari mengklik tautan mencurigakan. Tim keamanan harus memantau lalu lintas keluar untuk panggilan API tidak terduga dari Copilot dan mempertimbangkan menonaktifkan fitur autorun bila memungkinkan.
Sumber: Ars Technica · Diringkas oleh HeadlinesBriefing