HeadlinesBriefing favicon HeadlinesBriefing.com

Setahun untuk memperbaiki keamanan di seluruh industri

Hacker News •
×

GLM 5.3-flash dirilis minggu lalu, dan Project Glasswing dan Daybreak kehabisan waktu. Model-model murah yang mampu melakukan hacking berbahaya kini tersedia bagi siapa saja tanpa perlindungan normal untuk menolak tindakan berniat jahat. Kita perlu memperbaiki kerentanan di seluruh industri agar kita tidak tertangkap tidak siap, dan untuk pertama kalinya dalam sejarah komputasi, kita memiliki kemampuan untuk melakukannya menggunakan LLM terdepan yang bergerak lebih cepat dari manusia.

GLM adalah sejenis LLM yang dikembangkan oleh Z.ai Co. (dulunya Zhipu AI), sebuah laboratorium AI di Tiongkok. Keluarga GLM adalah open-weight, yang berarti siapa saja dapat mengunduh dan menjalankan model-model tersebut. Ketika dihosting oleh Z.ai, model-model tersebut dilengkapi dengan pembatasan yang diwajibkan oleh hukum. Setelah dirilis secara publik, organisasi seperti De Align AI merilis model "abliterated" dengan penolakan tugas yang dihapus secara bedah. Dealign AI mengatakan model abliterated mendapatkan 0% pada Harmbench-320, yang menguji apakah model menolak tugas tentang desinformasi, kejahatan siber, senjata biologis, dan tindakan ilegal lainnya seperti membuat bom pipa. Dengan kata lain, model ini siap melakukan hampir apa saja.

GLM 5.3-flash memungkinkan untuk dijalankan secara lokal pada perangkat keras konsumen standar. "Flash" relatif terhadap model lain. Berbagai orang di internet telah menjalankan benchmark yang menunjukkan sekitar 20 token/detik pada GPU NVIDIA seharga sekitar 6.000 USD. Pada 22 September, Apple merilis M5 Mac Studio dengan 256 GB memori terpadu, yang lebih dari cukup untuk menjalankan 5.3-flash pada sekitar 30 token/detik dengan harga awal sekitar $9.500. Peningkatan perangkat lunak lebih lanjut dapat meningkatkan throughput hingga sekitar 45 token/detik, cukup untuk menulis kode fungsional dalam hitungan detik. GLM 5.3 mendapatkan 84,5% pada Cyber Gym dan 54,4% pada Exploit Bench.