感谢 Claude Fable 5.1、Holden Saberhagen、Gabriel Kammer、Andres Erbsen、Alice McKean 和 Tristan Wylde-Larue 的评论。

前沿实验室的估值基于完全自动化、可直接替代知识工作者的叙事，但当前模型即使简单任务也需要繁琐的监督。像 Navier-Stokes、FreeBSD RCE 和 HuggingFace 事件这样的头条演示具有误导性。模型仅在训练任务附近泛化，且有严重警告。奖励黑客需要领域专家进行严格规范，而他们的时间昂贵。规范本身是一种技能；很少有领域专家具备。劳动力成本可能超过直接实现。硬件显示规范与设计之比为 3:1 或 5:1。许多任务需要不断演变的规范。高层规范验证成本高昂。Navier-Stokes 是最好的情况：Lean 经过审计，但存在健全性错误。人工审查无法扩展，且容易受到像 xz 后门这样的黑客攻击。

关键实体：公司：HuggingFace | 人物：Claude Fable 5.1、Holden Saberhagen、Gabriel Kammer、Andres Erbsen、Alice McKean、Tristan Wylde-Larue

FAQ：根据作者，为什么前沿实验室被高估？

它们的定价基于完全自动化的叙事，但当前模型需要大量监督，并在小扰动下失败。

FAQ 问：根据作者，为什么前沿实验室被高估？

FAQ 答：它们的定价基于完全自动化的叙事，但当前模型需要大量监督，并在小扰动下失败。