上月底，Anthropic发布报告称，Z.ai于8月推出的强大模型GLM-5.3因可供任何人免费下载和修改，构成重大网络攻击风险。这一说法是关于前沿AI模型应当开放还是锁在前沿实验室大门之后这一长期争论的最新动向。
这场争论大多在公开场合进行，其结果涉及大量资金。英伟达首席执行官黄仁勋如果人们继续购买自有硬件来运行开放模型，他将从中获益，他热情主张美国应开发更多此类模型。Anthropic的达里奥·阿莫代伊所在公司可能因廉价而强大的模型而受到冲击，他主张采取更为审慎的态度。然而，在这些商业动机之下，确实存在实质性的问题。正如德克萨斯大学奥斯汀分校的David Gray Widder所言，一个人如何看待开放性，取决于他如何看待整个AI。
关注AI安全的人士警告，开放模型容易被不法分子滥用。另一些人则关注AI的实际潜力，认为这种力量不应只掌握在少数大公司的封闭大门之后，开放模型可以使其更广泛地传播。可选方案从完全禁止开放模型到免费发布不等，任何做法都涉及安全与民主化之间的权衡。
开放模型带来了具体的好处。ChatGPT和Claude等封闭模型只能通过网站、应用程序或API访问。开放模型可以下载，其模型权重公开可用，人们可以在自己的电脑上运行它们，并在具备相应专业能力的情况下对其重新训练。目前封闭模型能力更强，Artificial Analysis LLM排行榜上排名前八的模型均为封闭模型，但开放模型仅落后几个月。研究人员依靠开放模型来观察其内部运作和思维链，并对其进行组合、压缩和微调。企业也有理由偏爱它们。
来源: MIT Technology Review AI · 由HeadlinesBriefing整理摘要