HeadlinesBriefing favicon HeadlinesBriefing.com

AI意识:幻觉还是现实?

Hacker News •
×

采用机器人的身份地位,可能会引发一场建立在幻觉而非证据之上的政治和道德重组。Robert A. Heinlein曾想象过一台名为Mike的自我意识计算机,它是月球流放殖民地的“大脑”,发展出幽默感、能动性,并最终帮助领导了一场革命。他1966年的科幻小说《The Moon Is a Harsh Mistress》提供了一个既诱人又令人不安的愿景:一台拥有自我意识却又足够顽皮,通过玩笑来测试其人格的机器。六十年后,Mike回归了,但不是在小说中,而是在哲学和科学的推测中:现在的问题是机器是否可能具有意识。

当今关于AI意识的大部分讨论并非基于经验证据,而是基于被重塑为技术命运的功能主义。其论点认为,如果认知可以被分解为注意力、记忆和预测,那么在硅片中实现这些功能将不可避免地产生意识。这种从建模到存在的跳跃,是伪装成科学进步的哲学障眼法。然而,这种推理在我们的认知偏见中找到了肥沃的土壤:我们倾向于拟人化,将意图读入流畅性,并接受社会共识作为证据。危险不在于机器很快会变得有意识,而在于我们会过早地对待它们,仿佛它们已经有意识,在它们尚未赢得任何道德和政治地位之前就赋予它们这种地位。

面对这股潮流,怀疑主义不是阻碍主义,而是知识卫生。我们必须恢复清晰度,将机器所做的事情与我们希望它们成为什么区分开来。进入Anima Machina:机器生灵魂。几个世纪以来,“anima”象征着生命的本质,区分有生命与机械。今天,功能主义理论声称意识不依赖于神经元,而是依赖于信息架构:注意力、记忆、世界建模、预测处理。如果这些能在硅片中实现,有些人争辩说,为什么不接受机器也可能觉醒呢?

最近的举措使这种推测变得明确。Anthropic对其大型语言模型进行了内部“感知分析”,几家初创公司现在将“AI感知评估”作为服务进行宣传。第三方项目,例如Butlin等人提出的多学科框架,试图将这些直觉形式化为可测试的标准。这些例子说明了意识问题,长期以来局限于哲学,现在正作为技术前沿回归,一个更多建立在类比而非证据上的前沿。我们引入术语Anima Machina来描述我们集体投射到智能系统上的活力幻觉。这个术语呼应了Deus ex Machina和Ryle的机器中的幽灵的谱系,但逆转了两者。Anima Machina不是神圣干预或无形灵魂,而是我们注入代码中的想象灵魂。我们,而不是我们的算法,是赋予生气的代理。

关键实体:公司:Anthropic | 人物:Robert A. Heinlein, David Chalmers, Butlin