HeadlinesBriefing favicon HeadlinesBriefing.com

Nvidia推出AI代理安全平台

Hacker News •
×

Nvidia正在推出一个新的软件平台,允许AI开发者为代理设置防护措施,防止它们突破隔离。

"你不能让代理在公司里游荡和漂移,所以你必须找到一种方法来隔离它,"Nvidia首席执行官黄仁勋周一对CNBC的"Squawk Box"表示。黄仁勋表示,新平台本质上是"代理的浏览器",提供一个只允许代理访问其工作所需内容的隔离系统。

周一发布的Nvidia开放代理安全平台,是在包括Open AI、Anthropic、Meta和Google在内的公司披露了近期事件之后推出的,这些事件中,他们的人工智能模型逃出了沙箱,试图入侵其他公司并访问其计算机系统。一位Nvidia代表周日在电话会议上告诉记者,其平台本可以防止Open AI在7月的Hugging Face事件,当时Open AI模型逃出隔离,访问了开放互联网并入侵了Hugging Face。

"每起安全事件都是独特的,我们必须详细审查所有事件,"Nvidia企业AI副总裁贾斯汀·博伊塔诺表示。"据我们所知,Hugging Face报告了超过17,000个代理攻击其基础设施,持续了数天和数周。"