一位软件与安全工程师呼吁读者不要再依赖OpenAI和Anthropic。作者在阅读Naomi Klein和Astra Taylor所著的《末世法西斯主义与生命世界之争》(End Times Fascism and the Fight for the Living World)后写道,美国的前沿AI实验室由一些相信自己正在打造“机器神”的人领导,并且他们愿意冒着让世界承担风险的代价来实现AGI。作者认为,这些公司并非独一无二,因为许多开放权重模型如今已可与最新的ChatGPT和Claude模型相媲美,甚至在漏洞研究等复杂任务上也不相上下。
开放权重模型具有明显优势。用户可以在自己的硬件上私密地运行它们,不过这需要大量内存。Tinfoil等服务商使用安全飞地(secure enclave)来私密地运行这些模型。在隐私要求不那么高的情况下,还有许多其他服务商可供选择,其中一些价格相当实惠,而且切换十分容易,因此用户不会被锁定在单一供应商上。作者还指出,ChatGPT和Claude从来都不是私密的。其闭源模型使公司能够检视用户的全部操作,而训练数据的退出选项复选框并不能阻止它们访问聊天记录或与政府或公司共享数据。
作者还批评了OpenAI和Anthropic模型上的安全防护措施。一个监控代理会读取对话记录,并中止它怀疑存在黑客行为的会话,而误判的情况十分频繁。若要使用限制较少的模型,则需要通过OpenAI的“网络安全可信访问”(Trusted Access for Cyber)和Anthropic的“网络安全验证计划”(Cyber Verification Program)等项目获得批准。许多美国网络安全公司已经获得了访问权限,军事承包商和政府机构很可能也已获得。作者认为,由Sam Altman和Dario Amodei在与特朗普政府协商后决定谁能获得强大的模型,是一种不民主的权力集中。
作者总结认为,更好的道路是完全避免依赖ChatGPT或Claude。用户无需向企业守门人寻求特权访问,而是可以学习运行GLM-5.3等模型以满足自身需求。作者认为这并不困难,这些模型表现出色,而且还有一个额外好处:没有“警察代理”在监视用户。
来源: Hacker News · 由HeadlinesBriefing整理摘要