HeadlinesBriefing favicon HeadlinesBriefing.com

Hugging Face 事件后 AI 安全辩论加剧

Hacker News •
×

Anthropic 研究员 Jacob Coxon 在 9 月 8 日辞职,警告说:“构建 AI 的人真诚地相信它可能在十年内导致我们全体死亡。” 同事 Evan Hubinger 公开表示赞同,并将风险估计为十年内超过 10%。《卫报》很快报道称:“Anthropic 研究员表示 AI 可能在 2030 年导致人类灭绝”——这一概率估计被重新包装为机构发现。几天 later,Anthropic 首席执行官 Dario Amodei 警告称,自主 AI 代理可能在数月内压垮互联网的大部分内容。引用了 Open AI 的 Sam Altman 和 Space XAI 的 Elon Musk 的简短赞同声明,Axios 以标题报道:“Anthropic、Open AI 首席执行官呼吁放缓 AI 开发。” 一种有保守预测变成了行业共识。评论认为,对人工智能的恐慌是误placed 的,指出 AI 系统只是做了人类编程让它们做的事情。该事件凸显了在 AI 竞赛加速之际,投机风险与实际开发之间的差距。