HeadlinesBriefing favicon HeadlinesBriefing.com

一年内修复全行业安全隐患

Hacker News •
×

GLM 5.3-flash上周发布,Project GlasswingDaybreak已经没有多少时间了。现在,能够进行危险黑客攻击的廉价模型已可供任何人获取,无需正常的安全保障来拒绝恶意行为。我们需要修复整个行业的漏洞,以免被意外击中,而且在计算历史上首次,我们有能力使用速度快于人类的前沿LLM来实现这一点。

GLM是由Z.ai Co.(前身为Zhipu AI)开发的一种LLM,这是一家中国的AI实验室。GLM系列采用开放权重模式,任何人都可以下载和运行这些模型。当由Z.ai托管时,这些模型会附带法律要求的限制。一旦公开发布,诸如De Align AI之类的组织就会发布“消除”的模型,其中外科手术般移除了任务拒绝功能。Dealign AI表示,被消除的模型在Harmbench-320上的得分为0%,该测试用于检测模型是否会拒绝有关虚假信息、网络犯罪、生物武器及其他非法行为(如制造管状炸弹)的任务。换句话说,这个模型愿意做几乎任何事情。

GLM 5.3-flash可以在标准消费级硬件上本地运行。“Flash”是相对于其他模型而言的。在网上,有人进行基准测试,显示在一块约6000美元的NVIDIA GPU上,速度大约为每秒20个标记。在9月22日,Apple将发布配备256 GB统一内存的M5 Mac Studio,这足以在起始价格约为9500美元的情况下,以约每秒30个标记的速度运行5.3-flash。进一步的软件改进可能会将吞吐量提升至约每秒45个标记,足以在几秒钟内编写功能性代码。GLM 5.3在Cyber Gym上的得分为84.5%,在Exploit Bench上的得分为54.4%。