关于AGI和新能力的夸张言论经不起推敲。今年4月，Anthropic声称其模型Claude Mythos在发现软件漏洞方面比大多数安全专家更出色。随后发生了Open AI与Hugging Face的黑客事件，之后Anthropic和Meta也披露了类似事件。Anthropic声称取得了数学突破；Open AI也声称取得了突破。Anthropic工程师Jacob Coxon宣布离职的消息在网络上疯传，他说这些公司正"径直冲向自我改进的超级智能，拿我们的生命当赌注"。媒体对此大肆报道，反复使用拟人化的表述，意在将软件描绘成初具雏形的AGI。

一旦专家审视实际发生的事情，一个不同的故事便浮现出来。网络安全专家表示，这些黑客事件关乎的是Open AI的疏忽和未能采取基本安全措施，而非模型失控。数学家们最初被Open AI声称其聊天机器人Astra解决了十年悬而未决的问题所震惊，后来意识到这些结果并非新颖。他们指控该公司存在研究不端行为和剽窃，称Astra并未实现深刻的知识飞跃。数周后，Open AI声称自己取得了突破。两天前，纽约大学Courant研究所的Tristan Buckmaster发表声明，暗示Open AI窃取了他人的成果并进行了不当归属。

关于初具雏形的超级智能的说法并非基于良好的科学，而是基于超人类主义、优生学和一厢情愿的想法。数学和编程被推崇为人类成就的巅峰，并且能提供可验证的答案，这使得系统更容易针对它们进行调优。数百名数学家签署了一份声明，警告商业利益会促使企业夸大能力，并呼吁政策制定者咨询专家而非新闻稿。我们对此呼吁表示赞同。

关键实体：公司：Anthropic、Open AI、Hugging Face、Meta | 人物：Stephanie Arnett、Jacob Coxon、Tristan Buckmaster | 地点：纽约大学、Courant研究所

FAQ：近期关于AGI和突破的AI说法可信吗？

不可信。专家表示，黑客事件反映的是Open AI的疏忽，数学家发现Open AI声称的突破并非新颖，并指控该公司存在不端行为。关于初具雏形的超级智能的说法基于意识形态，而非科学。