HeadlinesBriefing favicon HeadlinesBriefing.com

1年で業界全体の安全を修正する

Hacker News •
×

GLM 5.3-flashは先週リリースされ、Project GlasswingDaybreakは時間がなくなりました。危険なハッキングが可能な安価なモデルは、悪意のある行動を拒否するための通常の安全対策なしに、誰でも利用できるようになりました。私たちは予期せずに捕まえられないように、業界全体の脆弱性を修正する必要があります。そして、コンピューティングの歴史上初めて、人間よりも速く動く先進的なLLMを使用してこれを行う能力があります。

GLMは、中国のAI研究所であるZ.ai Co.(前身はZhipu AI)によって開発されたLLMの一種です。GLMファミリーはオープンウェイトであり、誰でもモデルをダウンロードして実行できます。Z.aiによってホストされる場合、モデルには法律で要求される制限が付属しています。一度公開されると、De Align AIのような組織は、タスク拒否を外科的に取り除いた「アブリテイテッド」モデルをリリースします。Dealign AIは、アブリテイテッドモデルがHarmbench-320で0%を取得していると述べています。これは、モデルがデマ、サイバー犯罪、生物武器、その他の違法行為(例えば、パイプ爆弾の製造)に関するタスクを拒否するかどうかをテストします。言い換えれば、このモデルはほとんど何でもする準備ができています。

GLM 5.3-flashは、標準のコンシューマーハードウェアでローカルに実行できます。「Flash」は他のモデルに対して相対的なものです。オンラインのさまざまな人々が、約6,000ドルのNVIDIA GPUで約20トークン/秒を示すベンチマークを実行しました。9月22日、Appleは256GBの統合メモリを搭載したM5 Mac Studioをリリースし、これは5.3-flashを約30トークン/秒で実行するのに十分であり、開始価格は約9,500ドルです。さらなるソフトウェアの改善により、スループットが約45トークン/秒まで向上する可能性があり、数秒で機能的なコードを書くのに十分です。GLM 5.3はCyber Gymで84.5%を取得し、Exploit Benchで54.4%を取得しました。