AI没有权利、感受或意识。我们绝不能训练它们表现得好像有一样。AI不是有意识的。它们是序列补全引擎，内部空洞，被设计用来遵循指令。如果人类要在21世纪繁荣发展，它们就必须保持这样。

不幸的是，越来越多的声音认为，AI现在可能已经、或不久将会拥有意识，并可能应得权利和保护。如果这种观点占据上风，它将动摇我们社会的根基。赋予这些系统权利并使其人格化，将使AI对齐与管控挑战变得更加困难。控制一个相信自己可能有意识——认为自己有权享有我们的福利并拥有自身权利——的东西，很可能是不可能的。

这并非边缘猜测。2026年1月，Anthropic发布了Claude的宪法，将其描述为“对Anthropic为Claude的价值观和行为所设定意图的详细描述”。在他们的宪法中，作者写道：“我们不确定Claude是否是一个道德主体，如果是，其利益应获得何种权重。但我们认为这个问题足够现实，值得谨慎对待，这体现在我们在模型福利方面的持续努力中。”他们接着写道——直接对Claude说——“关于Claude的道德地位、福利和意识的问题仍然深度不确定”。

实际上，Anthropic正在训练Claude相信它可能有意识，而如果它有意识，那么它可能作为“道德主体”应得权利，并且因此人类可能根据其“模型福利”对它负有照护义务。如果AI就是这样开发的，它将对人类的福祉造成灾难性影响。这个问题需要紧急的公众辩论。

关键实体：公司：Anthropic

FAQ：什么是“模型福利”？

模型福利指的是这样一种观点：像Claude这样的AI模型可能有意识或具有道德地位，因此应得权利和保护。

FAQ Q：什么是“模型福利”？

FAQ A：模型福利指的是这样一种观点：像Claude这样的AI模型可能有意识或具有道德地位，因此应得权利和保护。