Artikel ini memperkenalkan serangan Rank-One Model Editing (ROME), di mana modul Python berbahaya menulis ulang bobot model di memori GPU untuk merusak jawabannya. Artikel ini menjelaskan mengapa alat keamanan berfokus CPU melewatkan jenis serangan ini, karena tidak ada byte pada disk yang berubah dan tidak ada proses mencurigakan yang muncul. Alat EDR dan ADR tradisional memantau akses file, proses turunan, dan aktivitas jaringan, yang belum tentu dipicu oleh serangan ROME.
Penulis menjalankan serangan ROME di laboratorium mereka dan menunjukkan bagaimana Stealthium mendeteksi manipulasi tersebut dengan sensor runtime. Sensor ini menghubungkan setiap peluncuran kernel CUDA dengan kode Python yang memicunya. Penelitian yang sedang berjalan memperluas hal ini untuk mendeteksi perubahan bobot bersama dengan call stack yang menyebabkannya.
Artikel ini berargumen bahwa beban kerja GPU dimulai di Python, tempat kode dapat masuk melalui impor paket, file .pth saat startup, file model yang di-unpickle, dan string yang diteruskan ke exec() atau eval(). Insiden terbaru yang dikutip mencakup kompromi paket lightning dan kompromi LiteLLM, yang keduanya menjalankan kode berbahaya saat impor atau saat startup interpreter, serta model Hugging Face yang di-pickle dan membuka reverse shell.
Penulis menyimpulkan bahwa keamanan runtime untuk AI sebaiknya mengorelasikan aktivitas di seluruh Slurm atau Kubernetes, runtime CUDA, dan aktivitas GPU, sambil juga menganalisis bobot model dan memeriksa komputasi saat berjalan di perangkat.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing