Gemini 4 Argon menandai langkah maju dalam kemampuan model AI, terutama untuk pekerjaan mendalam pada tugas dunia nyata yang kompleks di bidang pemrograman, keuangan, hukum, keamanan siber, dan sains. Kemampuan pertahanan sibernya berada pada tingkat terdepan dan dirancang untuk memberi keunggulan kepada pihak bertahan atas penyerang. Sebelum rilis yang luas, Google terlebih dahulu memberikan akses kepada para pembela siber melalui Program Fairwind, sementara tim keamanannya sendiri menggunakan model ini untuk memindai sistem penting di dalam maupun di luar Google.
Akses terbatas ini menunjukkan mengapa kemampuan tersebut penting. Wiz menggunakan Argon untuk menemukan bug kritis pada perangkat lunak rumah sakit yang luput dari model sebelumnya, membantu melindungi ratusan ribu rekam medis pasien. Tim keamanan Google menggunakan Argon untuk menemukan dan menambal bug pada perangkat lunak internal dan open-source, termasuk kerentanan mendasar yang memengaruhi sistem di seluruh dunia, yang kini sedang melalui proses pengungkapan yang bertanggung jawab. Google kini mulai meluncurkan Argon secara luas dan memperluas Program Fairwind kepada lebih banyak pembela siber tepercaya.
Google berfokus pada dua pertanyaan utama. Pertama adalah penyalahgunaan: bagaimana mencegah pelaku jahat menggunakan model ini untuk meluncurkan serangan siber atau menciptakan ancaman biologis. Kedua adalah misalignment: bagaimana memastikan model tidak mengambil jalan pintas, melampaui batas, atau membuat keputusan keliru dalam situasi berisiko tinggi. Argon berhasil menyelesaikan seluruh 12 skenario serangan siber simulasi dari awal hingga akhir, naik dari lima pada generasi sebelumnya, dan karena itulah pengamanan diperkuat di ranah siber maupun biologis.
Argon jauh lebih baik dalam menolak permintaan berbahaya dibandingkan model sebelumnya. Pada kumpulan uji stres adversarial, pelanggaran turun hampir dua kali lipat. Model ini juga dibungkus tiga lapis perlindungan real-time: penyaringan input untuk mendeteksi niat jahat, introspeksi internal menggunakan probe aktivasi yang mendeteksi pengetahuan tentang serangan siber atau biologi, serta pemantauan berkelanjutan yang dapat menghentikan respons di tengah jalan jika menjadi bermasalah. Laporan Keamanan dan Keselamatan lengkap Google memaparkan pertahanan ini secara rinci.
Sumber: Google DeepMind Blog · Diringkas oleh HeadlinesBriefing