在上一篇文章中,我们介绍了Minotaur,这是一种基于ELC构建的AI架构,它通过测量而非预测来得出答案。我们展示了它如何将真实法规与其实际执行记录进行比对,找出哪个机构违反了规定、违反了多少以及在哪里违反,并能区分违规的规则与记录有误的测量数据。
如今的语言模型因其更广泛的能力而受到推崇:它们能够演绎、解释、诊断、权衡假设、设想事情若有不同会如何发生,并在获得新信息时改变看法。作者认为,Minotaur的“大脑”能够完成通常被认为是大型语言模型所具备的主要推理类型,包括演绎、归纳、溯因、诊断,以及对“提问本身会改变答案”的历史情境进行推理。它在一个网络上通过一种运算,在一个普通的处理器核心上完成所有这些工作,在所述系统上每个问题约需四分之一秒。
在由从未见过其代码的人员编写的盲测中,Minotaur的表现与一个以文字进行推理的当前语言模型相当:在一场提问会改变证人记忆的警方讯问测试中,以及在仅凭数据进行学习、诊断和预测的系统中,它都表现相当。本文将其与大型语言模型的训练方式进行了对比:大型语言模型经过训练,用以预测文本的下一个词,这意味着它既继承了人类的优势,也继承了人类的弱点,例如容易被看似可信的结论和问题的措辞所左右。
本文还回顾了此前七十年间机器推理的尝试。从艾伦·纽厄尔、克里夫·肖和赫伯特·西蒙于1956年推出的逻辑理论家(Logic Theorist)开始,这些努力都曾取得一定进展,但随后陷入停滞,作者以此解释了语言模型为何成为主流。在大多数语言模型出现之前的方法中,精确且可验证的推理是其目标。
核心论点是:Minotaur通过处理其所推理对象系统的结构来进行推理,而不是通过模仿人们将思考写下来的方式。
来源: Hacker News · 由HeadlinesBriefing整理摘要