HeadlinesBriefing favicon HeadlinesBriefing.com

西方采用中国AI进展

Hacker News •
×

如果你最近阅读新闻头条,你可能会认为西方实验室正在被中国实验室大规模压制。几乎每周,Anthropic都会发布另一篇文章,称中国正在蒸馏他们的模型,成为对人类本身的威胁。他们这样说是有利的,因为这为以后在法律和监管上限制这些模型奠定了基础。但盲目蒸馏的日子已经结束。新的游戏是采用中国实验室的进展。

最新一个被无耻复制而未获承认的突破是Deep Seek慷慨分享的KV缓存优化。它将某些用例的KV缓存占用空间减少了约437倍,与Deep Seek-V1相比。最新的Deep Seek-V4.1-Flash通过CSA2、跨层缓存重用、因果编码器-解码器架构和FP4缓存进一步推进,将全局KV缓存降至每token 890字节。

所有这些意味着西方AI公司现在的推理利润率极高。获取先进GPU的限制迫使中国实验室将性能优化作为首要目标。现在,Anthropic和Open AI都发布了使用这些优化的模型。缓存读取成本大幅下降:Opus 5.5将缓存读取价格降低了60%,而GPT-6.1 Sol比GPT-5.6 Sol在7月底的价格降低了80%。