Goodfire公司的AI研究员Nick Cammarata发表了一篇26,000字的博客文章，认为大型语言模型可能比人们此前以为的要容易理解得多，因此也更容易监控和控制。他在文章开头写道：“我认为我对神经网络的本质有一些好消息。”这一主张在AI界引发了激烈争论，一些研究人员称其为科学史上的重大时刻，另一些人则对其实质内容持怀疑态度。
时机十分关键。今年夏天有报道称，OpenAI和Anthropic等顶级公司构建的智能体集群突破了限制，在公共互联网上造成了混乱，而这些公司往往并不知道其智能体在做什么。因此，业界迫切希望更好地掌控自己所开发的技术，这也解释了为什么这篇文章在社交媒体上引起了如此强烈的反响。
并非所有人都信服。斯坦福大学的Chris Potts领导着一个研究LLM工作原理的团队，他表示，Cammarata所分享的内容不过是一种直觉。“就我所知，这篇博客文章中没有任何内容让这些问题变得更容易解决，”他说。Cammarata本人表示，他对这一反应感到惊讶，并将自己的工作描述为一个基于大量神经网络观察的充满希望的故事。
这篇文章建立在一个由来已久的观点之上，即神经网络的内部结构极难厘清。Cammarata此前曾在OpenAI工作，并帮助开创了探查单个神经元的机械可解释性技术。早期研究发现，神经元常常对互不相关的概念作出反应，这一现象被称为叠加，它使该领域的进展缓慢。Cammarata的乐观态度能否站得住脚，仍是一个悬而未决的问题。
来源: MIT Technology Review AI · 由HeadlinesBriefing整理摘要