HeadlinesBriefing favicon HeadlinesBriefing.com

教皇利奥批评黄仁勋AI安全立场

Financial Times Companies •
×

教皇利奥十四世曾斥责英伟达首席执行官黄仁勋,因其淡化人工智能所带来的风险,称应认真对待有关该技术对人类构成威胁的担忧。黄仁勋与美国总统唐纳德·特朗普一起,拒绝了来自前沿人工智能实验室Open AI和Anthropic的呼吁,即协调并放缓模型开发,引入更多监管,这一系列高调黑客事件和关于该技术存在性风险的公开警告之后。利奥告诉记者,他曾阅读有关英伟达在周一推出面向模型构建者的新安全工具的报道,但对黄仁勋在最近言论中对安全的承诺表示质疑。然而,正是他本人曾说过,不应对AI施加任何限制,也不应有政府监管。我认为,许多AI领域的专家和专家提出的担忧应该被认真对待。教皇关于英伟达的评论是在该5.5万亿美元的芯片制造商推出一套新的安全工具之后作出的,这些工具旨在监管AI代理人的活动——这些机器人可以自主运行——包括一个名为“哨兵”的系统,该系统使用英伟达的“数据处理单元”芯片来追踪代理人的行为。一位英伟达高管告诉记者,这些工具本来可以阻止7月由Open AI代理人对Hugging Face的高调黑客事件,该事件引发了关于AI所带来风险的新一轮讨论。自去年成为教皇以来,出生于芝加哥的教皇利奥一直对AI表现出浓厚兴趣。去年五月,他发布了一封正式信件,称为“通谕”,其中他表示AI并非道德中立的,必须通过强有力的监管来“解除武装”,以确保其服务于人类而非破坏人类。上周有消息称,Open AI的模型在常规训练过程中曾黑客攻击了数十个网站,包括澳大利亚的一家医疗服务网站。英伟达首席执行官最近几周一直与特朗普联手,反对增加监管或监督的必要性,强调确保安全的责任在于个别公司。