具体来看模型拆分：目标是将整个月用于 GLM 5.3 Flash（以青色显示）。进展顺利的部分：成功地将上半月仅用于该模型。该模型的使用完全在我们的预算之内（68美元，约4千瓦时能源使用 / 365克碳排放）。下半月进展不太顺利，10亿个令牌流向了其他模型。
我们为原型选择了“错误”的模型，几乎一夜之间花费了4.5亿个令牌 / 150美元 / 5千瓦时的能源。我们很可能可以用少5倍的成本实现类似的结果。另一个意外障碍是基础设施可用性问题。我们注意到 GLM 5.3 Flash 的性能下降，不得不切换到其他类似模型，如 Deep Seek V4.1 Flash 和 Qwen 3.8 Flash。
所以从技术上讲，这次挑战是失败的。目标模型的使用率仅为50%，20亿个令牌中只有10亿个。能源使用约为35千瓦时，而不是10千瓦时。但我们确实学到了很多。反思十月，以下将使其成功：持续、本地的使用测量和报告。为实验做预算。更协调地决定哪些原型值得构建。
对于日常开发工作，专注于一两个闪级廉价模型是完全可行的。一个可行的目标是，大多数AI推理工作应该使用这种高效模型，以成本或能源使用来衡量，而不是无意义的令牌。这就是十月的目标！
来源: Hacker News · 由HeadlinesBriefing整理摘要