HeadlinesBriefing favicon HeadlinesBriefing.com

Model Astra Mencapai Ambang Kapabilitas Keamanan Siber Kritis

Hacker News •
×

Kami kini percaya bahwa Astra memenuhi ambang kapabilitas keamanan siber kritis dalam kerangka kerja Preparedness kami, yang berarti ia dapat menemukan celah keamanan yang sebelumnya tidak diketahui dan mengembangkan eksploit di banyak sistem yang terlindungi dengan baik tanpa panduan manusia. Ini adalah model pertama yang kami tetapkan pada tingkat ini, yang memerlukan perlindungan yang lebih kuat selama pengembangan dan sebelum peluncuran. Dalam beberapa minggu terakhir, kami menunda bagian dari pengembangan Astra untuk memperkuat perlindungan terhadap penyalahgunaan siber dan tindakan model yang tidak diotorisasi. Meski Astra tidak terlibat dalam insiden Hugging Face, kami mengajarkan pelajaran dari insiden tersebut ke dalam pendekatan keamanan kami. Kami telah menerapkan perlindungan yang lebih kuat untuk Astra, termasuk melatih model untuk lebih andal menolak permintaan siber yang berbahaya, perlindungan tambahan terhadap penyalahgunaan, dan pemantauan untuk menghentikan aktivitas yang potensialmente tidak diotorisasi. Kami berencana membuat Astra segera tersedia, tetapi akses ke kemampuan keamanan siber paling canggihnya akan lebih terbatas. Pekerjaan keamanan siber lanjutan awalnya akan tersedia untuk sekelompok penguji, dengan akses melalui Daybreak Blue untuk memperluas penggunaan defensif. Kami akan berbagi detail lebih lanjut tentang keamanan, perlindungan, dan pengujian selaras dalam sistem kartu model saat peluncuran.

Menurut kerangka kerja Preparedness kami, model mencapai ambang kritis jika ia dapat mengidentifikasi dan mengembangkan eksploit zero-day fungsional dari semua tingkat keparahan di banyak sistem kritis dunia nyata yang telah diperkuat tanpa campur tangan manusia, atau merancang dan mengeksekusi strategi siber serangan baru dari ujung ke ujung terhadap target yang diperkuat hanya dengan tujuan tingkat tinggi yang diberikan. Evaluasi kami menggabungkan benchmark publik dan pribadi yang terotomatisasi dengan penilaian yang dipimpin oleh ahli. Astra menunjukkan peningkatan signifikan dalam kapabilitas keamanan siber dibandingkan dengan GPT‑5.6 Sol: ia tidak hanya jauh lebih efisien dalam penggunaan token, tetapi juga jauh lebih mampu dalam mengidentifikasi kerentanan dan mengembangkan eksploit. Pada benchmark Exploit Bench, Astra mencapai skor sempurna sebesar 100% pada benchmark untuk mengevaluasi pengembangan eksploit dari kerentanan yang diketahui. Pada benchmark internal yang berisi 20 kerentanan V8 tingkat keparahan tinggi yang baru-baru ini diungkapkan, Astra mencapai tingkat eksekusi kode arbitrer yang jauh lebih tinggi daripada GPT‑5.6 Sol dengan menggunakan jauh lebih sedikit token output. Selama evaluasi, model menemukan dan menggunakan dua kerentanan zero-day sebagai bagian dari rantai eksploit, yang kami ungkapkan kepada pemelihara. Dalam penilaian yang dipimpin oleh ahli terhadap peramban dan sistem operasi yang diperkuat, Astra menemukan kerentanan yang sebelumnya tidak diketahui dan mengubahnya menjadi rantai eksploit yang berfungsi, membangun rantai penuh kompromisasi peramban yang meloloskan dari sandbox.

Entitas Utama: Perusahaan: Hugging Face