HeadlinesBriefing HeadlinesBriefing.com

AI智能体、陆军黑客计划与神经网络主张

MIT Technology Review •
×

Goodfire这家AI初创公司的研究员Nick Cammarata在一篇26,000字的博客文章开头提出了一个引人注目的观点:“我认为我有关于神经网络本质的好消息。”他认为,大型语言模型可能比研究人员此前认为的更容易理解,因此也更容易监控和控制。该文章在AI界引发了大量猜测和谨慎的欢欣,但并非所有人都信服。在文章走红的次日接受采访时,Cammarata讨论了他认为研究人员哪些地方理解有误、他的工作实际证明了什么,以及为什么持怀疑态度的人还不准备庆祝。

另外,个人AI智能体正在模糊网络上机器人与人类之间长期存在的界限。这些智能体承担着预订航班和酒店房间等任务。仅Meta的Muse在首月就被下载了500万次。在主要为人类设计的互联网上,智能体与人类访客的混合局面已经出现诸多问题,许多网站现在都屏蔽了AI智能体。如果需求持续增长,互联网可能会围绕智能体而非人类重新设计。

此外,文件披露了美国陆军的一项计划,拟让AI智能体寻找并使目标系统失效以用于黑客攻击。专家警告,该软件可能会损坏非预期的系统。该时事通讯中的其他报道还涉及一名与OpenAI相关的窃听案嫌疑人,据称其获得了沙特政府的支持;美国禁止在民用政府系统中使用DeepSeek产品;以及欧洲致力于打造自己版本的Starlink。

来源: MIT Technology Review · 由HeadlinesBriefing整理摘要