我们似乎非常担心AI失控带来的威胁，而且有很多例子显示它确实如此。然而，这些都是误读，因为AI没有意图，也没有动机。如果你认为当前的AI只是随机鹦鹉，那就没什么好说的了——请继续往下看。如果你用过任何当前的AI产品，你不得不得出结论：虽然训练机制让人相信这些LLM只是复杂的自动补全，但它们似乎远不止于此。

正如我多次论证的那样，训练语料库，即语言，编码了足够多关于世界结构的信息，使LLM能远超你对随机鹦鹉的预期。它们不具备智能，但给人一种很好的智能假象。那么我们应该担心即将到来的AI末日吗？许多AI研究人员——例如Hinton、Hassabis和Bengio——都表达过担忧，认为AI可能会消灭我们，但当你仔细审视他们的言论时，这与非技术背景的商业大佬们的说法并不完全相同，后者大多只是蹭热度赚钱。

商业大佬不是我们该听的人，因为他们有太多私心，因此倾向于AI全能且威胁的场景。也有专家，特别是Ng、Le Cun和Brooks，认为我们严重高估了当前AI的力量，以及它超越人类智能所需的时间。

即使这是真的，还有一个更好的理由让我们不必过度担心——动机。考虑一下人类。我们有各种需求，因为我们是生物体。我们受生存需求驱动，会做事来获取食物、住所、安全和伴侣。我们受生物学驱动。AI则不然。我们使用的LLM是通过强化学习训练的。如果你想用更人性化的术语来描述，它们因正确完成训练任务而获得奖励。我个人认为这是过度拟人化，但无伤大雅。

一旦LLM训练完成，它们不再受强化学习约束。它们不再有任何动机。回答问题时它们不会获得奖励。它们没有需求或欲望，即使有，也没有机制来吸收奖励。它们甚至没有任何反馈能代表对工作出色完成的自豪感。你试过夸奖LLM回答得好吗？反应充其量是平淡的，显然是前端界面在你和LLM之间预设的程序化回应。

不仅如此，AI何曾主动向你提出建议？你何时打开窗口发现AI打出"我有个绝妙的主意……"并解释为什么好？LLM没有好主意——它们没有意图。当你与AI探讨话题时，它可能看似提出了训练集中冷门的建议，但这不是未经请求的创新。是我们输入问题驱动AI，这些问题源于我们的需求。LLM没有动机做任何事，甚至没有动机回答你的问题。动机根本不在其中。

你输入一个问题，前向传播算法运行。无论答案正确还是无用，LLM都不会获得奖励或惩罚。它也不会像人类那样被各种担忧驱动——"晚饭吃什么"、"怎么升职摆脱这份工作"、"搞到约会的最佳方式"……等等。人类是一团混乱的需求，而LLM完全没有这些。为什么这意味着LLM无害？仅仅因为它不想要任何东西，但人类太需要了，以至于无法想象这种状态。AI会消灭我们吗？为什么要那么做？它能获得什么？它甚至没有创造……的奖励循环。