HeadlinesBriefing favicon HeadlinesBriefing.com

এক বছরে পুরো শিল্পের নিরাপত্য ঠিক করুন

Hacker News •
×

গত সপ্তাহে GLM 5.3-flash প্রকাশিত হয়েছিল, এবং Project Glasswing এবং Daybreak সময় শেষ করছে। এখন বিপণবাদী হ্যাকিং করতে সক্ষম সস্তা মডেলগুলি কোনো যে কোনো ব্যক্তির জন্য উপলধ আছে, যারা মালিশিয়াল অ্যাকশন অগ্রাহ্য করার জন্য স্বাভাবিক সুরক্ষা ছাড়া। আমরা অপ্রত্যাশিত হওয়া এড়াতে সমগ্র শিল্পে দুর্বলতা ঠিক করতে হবে, এবং কম্পিউটিং ইতিহাসের প্রথমবারের মতো, আমরা মানুষ থেকে দ্রুত চলমান সীমান্ত LLM ব্যবহার করে এটি করতে পারি।

GLM হল Z.ai Co. (পূর্বে Zhipu AI) দ্বারা উন্নয়ন করা এক ধরণের LLM, যা একটি চীনা AI ল্যাব। GLM পরিবার ওপেন-ওজন, অর্থাৎ যে কেউ মডেলগুলি ডাউনলোড এবং চালাতে পারে। যখন Z.ai দ্বারা হোস্ট করা হয়, তখন মডেলগুলিতে আইনের প্রয়োজনীয় বিধান আরোজিত থাকে। একবার সরাসরি প্রকাশিত হলে, De Align AI এর মতো সংগঠনগুলি কাজ অগ্রাহ্য করা সর্জিকালভাবে সরিয়ে ফেলা সহ "অ্যাব্লিটারেটেড" মডেল প্রকাশ করে। Dealign AI বলেন যে অ্যাব্লিটারেটেড মডেল Harmbench-320-এ 0% পায়, যা পরীক্ষা করে যে মডেলগুলি কি মিথ্যা তথ্য, সাইবার অপরাধ, জৈবিক অস্ত্র এবং অন্যান্য অবৈধ কাজ (যেমন পাইপ বোম নির্মাণ) সম্পর্কে কাজগুলি অগ্রাহ্য করে। অন্য কথায়, এই মডেলটি প্রায় কোনো জিনিস করতে ইচ্ছুক।

GLM 5.3-flash স্টক উপভোগী হার্ডওয়্যারে স্থানীয়ভাবে চালানো সম্ভব। "Flash" অন্যান্য মডেলের সাপেক্ষে। অনলাইনে বিভিন্ন ব্যক্তি গুগল প্রদর্শন করেছেন যা প্রায় 20 টোকেন/সেকেন্ড দেখায় একটি ~6k USD NVIDIA GPU এ। 22 সেপ্টেম্বর, Apple 256 GB ইউনিফাইড মেমরি সহ M5 Mac Studio প্রকাশ করবে, যা 5.3-flash কে প্রায় 30 টোকেন/সেকেন্ডে চালাতে যথেষ্ট, শুরুতে প্রায় $9,500। আরও সফটওয়্যার উন্নয়ন থ্রুপুটিকে প্রায় 45 টোকেন/সেকেন্ড পর্যন্ত বাড়াতে পারে, যা কয়েক সেকেন্ডে কার্যকরী কোড লিখতে যথেষ্ট। GLM 5.3 Cyber Gym-এ 84.5% এবং Exploit Bench-এ 54.4% পায়।