Pendiri dan CEO Meta, Mark Zuckerberg, telah mempromosikan keamanan asisten AI barunya, Muse, dengan mengklaim bahwa asisten ini "dibangun dari awal untuk privasi dan keamanan." Kerentanan zero-day yang memberi aplikasi yang dijalankan secara lokal dan perintah terminal kendali penuh atas agen tersebut menimbulkan keraguan serius. Lebih jauh menimbulkan pertanyaan, Amazon pada hari Minggu mulai memblokir Muse dari situsnya.

Meta memperkenalkan Muse beberapa minggu lalu. Asisten ini "memesan janji temu, mengisi formulir dan menangani layanan pelanggan," "secara proaktif mengambil tugas dari piring Anda," dan dapat "melakukan pembelian, menghasilkan gambar, membuat dokumen, dan terhubung dengan aplikasi dan layanan favorit Anda." Aplikasi mac OS (anehnya, tidak ada versi Windows) juga bekerja dengan Whats App, email, kalender, dan akun media sosial pengguna. Ketika suatu tugas memerlukan alat yang tidak ada, Muse membuatnya secara langsung.

Zero-day ini memungkinkan aplikasi atau perintah terminal apa pun mendapatkan akses ke token yang mengautentikasi pengguna ke akun Muse mereka. Pengembang Meta merancang asisten ini sehingga aplikasi yang diinstal secara lokal atau kode yang dieksekusi, terlepas dari izin mac OS yang dimilikinya, dapat mengubah daftar panjang pengaturan yang tidak terdokumentasi. Satu pengaturan memungkinkan proses mengubah endpoint tempat transkripsi terjadi. Penyerang dapat mengeksploitasi celah ini dengan mengubah lokasi ke endpoint mereka sendiri. Setelah itu terjadi, penyerang memiliki token yang memberikan kendali penuh atas akun Muse.

"Kami dapat memanipulasi agen dan memanfaatkan hak istimewanya untuk melakukan apa pun yang kami inginkan," kata Patrick Wardle, pakar keamanan mac OS yang menemukan zero-day tersebut, kepada Ars. "Jadi alih-alih kami harus menulis pencuri malware Mac yang sangat komprehensif, kami cukup memanfaatkan asisten AI itu sendiri." Wardle mengatakan ia telah mengembangkan beberapa serangan proof-of-concept yang melakukan hal-hal seperti menulis file berbahaya ke disk dan mengambil gambar, dalam banyak kasus tanpa indikasi bahkan kepada pengguna yang waspada. Perwakilan Meta tidak menjawab pertanyaan yang dikirim melalui email.

Entitas Utama: Perusahaan: Meta, Amazon, Apple, Anthropic, Google | Orang: Mark Zuckerberg, Patrick Wardle