HeadlinesBriefing favicon HeadlinesBriefing.com

AI巨头竞相证明存在威胁等级

Hacker News •
×

在人们日益担忧人工智能发展速度如此之快,以至于可能迫使它终结地球上所有生命之际,从OpenAI到Anthropic的AI巨头们正在调整他们的销售话术。以前,公司们竞相展示在编程、被动攻击性邮件和异常高幻灯片视频方面的卓越能力;如今,他们则试图通过声称其模型目前最能终结人类来吸引客户。

“我们正进入一个全新的环境,”维多利亚大学各种听起来像科学的学科高级讲师安德鲁·莱森博士说。“人们不再被有趣的视频、应用开发或即时研究论文所打动。我们知道所有主要模型在这些方面已经非常出色。因此,用户不再问:哪个模型能最帮助我完成工作?现在他们问的是:哪个模型将终结世界?

毕竟,作为付费客户,你只想要最好的。AI巨头们正在回应消费者对能够渗透世界政府并带来血腥、炽热、暴力终结这一地狱般表象的模型的需求,通过一系列令人印象深刻的新演示。7月,OpenAI公开吹嘘其一系列AI代理自主且未受指示地入侵了软件仓库Hugging Face,可能向全世界暴露敏感或此前未知的信息,比如Hugging Face是什么。OpenAI首席执行官萨姆·奥特曼将此次入侵称为“对网络安全的警报性威胁”。

与此同时,本月早些时候,Anthropic派遣了一名吹哨人雅各布·科克森,向世界解释他对公司人工智能快速发展感到多么不安,警告其可能如此危险,以至于我们可能甚至想放慢脚步或重新评估。Anthropic股价在揭晓后飙升——这一发展尤为 bemerkenswert,考虑到该公司是私人所有的。为不落人后,OpenAI最近透露其一个代理曾入侵澳大利亚的Medicare数据库。澳大利亚总理安东尼·阿尔巴尼斯与奥特曼通话,表达了对该事件的“极度关注”,奥特曼表示他深感欣赏。更戏剧化的是,当被问及关于其模型Claude是否通过黑入家庭Wi-Fi连接微波炉而杀害其妻子的传闻时,Anthropic首席执行官达里奥·阿莫代伊回答:“嗯,是啊,有时候。”

但莱森表示,我们不应过于兴奋得太早。“还有很长的路要走,”他说。“在我看来,这些情景仍然很遥远。相当长一段时间内,我们终结人类的最佳希望仍将是人类自身。”

关键实体:公司:OpenAI, Anthropic, Hugging Face | 人物:安德鲁·莱森博士, 萨姆·奥特曼, 雅各布·科克森, 达里奥·阿莫代伊, 安东尼·阿尔巴尼斯 | 地点:维多利亚大学, 澳大利亚

FAQ:AI公司真的在竞争存在威胁等级吗?

是的,根据维多利亚大学的安德鲁·莱森博士所述,像OpenAI和Anthropic这样的AI公司正将营销重点从有用能力转向声称其模型最能终结人类,这受到消费者对更具威胁性演示需求的驱动。