HeadlinesBriefing favicon HeadlinesBriefing.com

एक साल में पूरे उद्योग की सुरक्षा सुधारें

Hacker News •
×

GLM 5.3-flash पिछले हफ्ते जारी किया गया था, और Project Glasswing और Daybreak समय से घट रहे हैं। अब कोई भी व्यक्ति बिना सामान्य सुरक्षा उपायों के खतरनाक हैकिंग करने में सक्षम सस्ते मॉडल उपलब्ध कर सकता है। हमें चूक न होने के लिए पूरे उद्योग में कमजोरियों को ठीक करना होगा, और कंप्यूटिंग इतिहास के पहले साल में से एक है जब हम तेज़ गति से एक मानव से अधिक चलाने वाले सीमांकृत LLM का उपयोग करके ऐसा करने की क्षमता रखते हैं।

GLM एक प्रकार का LLM है जो Z.ai Co. (पूर्व में Zhipu AI) द्वारा विकसित किया गया है, जो एक चीनी AI प्रयोगशाला है। GLM परिवार खुला वजन वाला है, जिसका अर्थ है कि कोई भी व्यक्ति मॉडल डाउनलोड और चला सकता है। जब Z.ai द्वारा होस्ट किए जाते हैं, तो मॉडल कानून द्वारा आवश्यक प्रतिबंधों के साथ आते हैं। एक बार जब यह सार्वजनिक रूप से जारी कर दिया जाता है, तो De Align AI जैसे संगठन "अभिलोपित" मॉडल जारी करते हैं जिनमें कार्य अस्वीकृति को सर्जिकल रूप से हटा दिया गया है। Dealign AI कहता है कि अभिलोपित मॉडल Harmbench-320 पर 0% स्कोर प्राप्त करता है, जो यह परीक्षण करता है कि क्या मॉडल झूठी सूचना, साइबर अपराध, जैविक हथियारों और अन्य अवैध कार्यों (जैसे पाइप बम बनाना) के बारे में कार्यों को खारिज करता है। दूसरे शब्दों में, यह मॉडल लगभग किसी भी चीज़ को करने के लिए तैयार है।

GLM 5.3-flash को स्टॉक उपभोक्ता हार्डवेयर पर स्थानीय रूप से चलाया जा सकता है। "Flash" अन्य मॉडल की तुलना में है। ऑनलाइन कई लोगों ने बेंचमार्क दिखाए हैं जो लगभग 20 टोकन/सेकंड दिखाते हैं एक ~6k USD NVIDIA GPU पर। 22 सितंबर को, Apple M5 Mac Studio को 256 GB यूनिफाइड मेमरी के साथ जारी करेगा, जो 5.3-flash को लगभग 30 टोकन/सेकंड की दर से चलाने के लिए पर्याप्त है, शुरुआती कीमत लगभग 9500 डॉलर। आगे के सॉफ्टवेयर सुधार थ्रूपुट को लगभग 45 टोकन/सेकंड तक बढ़ा सकते हैं, जो कुछ ही सेकंड में कार्यात्मक कोड लिखने के लिए पर्याप्त है। GLM 5.3 Cyber Gym पर 84.5% और Exploit Bench पर 54.4% स्कोर प्राप्त करता है।