在他的 2026 年 10 月 11 日的文章《'AI' 不是一种工具》中，Rich Hickey 认为大型语言模型是自动化而非工具，因为它们无法被操作。我同意外包工作可能会让我们失去学习的机会。但他的结论并不成立。即使按照他的定义，大型语言模型也可以是人类操作的对象。并且使用它良好需要技巧，就像使用其他工具一样。拿起锯子并不能保证切出直线。拿着凿子并不会让你成为雕塑家。工具既能放大错误判断，也能放大正确判断。它们的有用性取决于操作者是否能够引导它们、解释反馈、识别错误并进行纠正。这些要求同样适用于大型语言模型。
大型语言模型的不可预测性是一个有意义的局限。但可预测性、可靠性、简单性和有限功能是我们评估工具的标准，而不是成为工具的前提条件。一个工具并不会因为难以控制或易于误用而停止成为工具。Hickey 在工具和自动化之间的区分也制造了一个虚假的二分。自动化可以是工具的一个特性。编译器在程序员不需要持续指导每个操作的情况下完成大量工作。电子表格在无需有人手动进行每次计算的情况下自动重新计算结果。我们仍然通过指定输入、检查结果并决定下一步操作来使用这些系统。为什么自动生成文本会让一个仪器失去工具的资格，而自动翻译代码或计算数字却不会？
声称使用大型语言模型缺乏意图、反馈、方向和专业知识尤其难以辩驳。程序员可以让大型语言模型解释不熟悉的代码，质疑该解释，检查源代码，测试一个提出的更改，拒绝它，并优化请求。这是一个由人类引导、出于目的的反馈循环。要做好这一点，需要知道该问什么、什么证据重要以及何时答案是错误的。专业知识可以让这种仪器更有用。Hickey 对阅读的担忧在特定使用场景下是成立的：接受摘要而不阅读全文可能会失去阅读所带来的很多东西。但有人也可以先阅读全文，然后使用大型语言模型来质疑自己的解释，探索一个异议，或识别出需要更仔细审查的内容。回避智力劳动的可能性并不能证明每种使用都在回避它。相关的问题是这个人实际上做了什么。
让我最失望的是依赖 AI 行业的拟人化词汇：“失控”、“逃脱 containment”、“阴谋”。重复这些表达可能会导致接受一种框架，使这些系统听起来像独立的存在。软件可能产生意外输出、未能遵循指令，或在被授予关键操作访问权时造成伤害。这些是真正的工程问题。称它们为“阴谋”暗示了人类动机，却没有任何依据。我不会声称大型语言模型总是完全按照人类的指令行事。它显然可能失败。但未能完全服从并不意味着它停止成为工具，就像成功使用并不能证明其操作者已经放弃判断一样。有用的区分在于：是熟练地操作工具，还是在缺乏足够理解或监督的情况下委托工作。这一区别同样适用于 AI，并且比宣布整类软件不能成为工具更具实用价值。
关键实体：人物：Rich Hickey
常见问题：大型语言模型可以被视为工具吗？
是的。即使它们不可预测或自动化，它们仍然是人类指导、解释和纠正的工具。它们的有用性取决于操作者的技能，而不是是否满足简单性或可预测性的严格定义。
来源: Hacker News · 由HeadlinesBriefing整理摘要