查尔斯国王警告称，快速发展的人工智能带来“存在性危险”，在达姆弗里斯庄园的一次会议上，他敦促科技领袖将安全放在首位。此次干预发生在英国首相安迪·伯纳姆首次与美国总统唐纳德·特朗普面对面会晤之前，该会晤将在联合国大会期间举行。查尔斯国王召集了英伟达、Anthropic、谷歌DeepMind和OpenAI的高管，强调人工智能必须始终服务于人类。研究人员和行业人士，包括萨姆·奥尔特曼和埃隆·马斯克，最近曾集体呼吁放缓人工智能的发展。英国人工智能部长卡尼什卡·纳拉扬出席了会议，而Anthropic的蒂诺·奎利亚尔赞赏了国王的倡议。微软人工智能负责人穆斯塔法·苏莱曼警告不要让自主人工智能争夺资源，称这可能催生一种“新的硅基物种”。梵蒂冈由方保罗·贝南蒂代表，这与教皇利奥十四世最近关于在人工智能时代保护人类的通谕相一致。

查尔斯国王的警告凸显了全球领导人齐聚一堂之际，监管人工智能的政治压力日益增大。在国王的苏格兰住所达姆弗里斯庄园举行的此次会议旨在建立国际合作的共同原则。鉴于特朗普历来抵制更严格的人工智能监管，伯纳姆即将进行的讨论将面临关于未来治理框架的严格审查。

关键实体：公司：英伟达、Anthropic、谷歌DeepMind、OpenAI、微软 | 人物：查尔斯国王、安迪·伯纳姆、唐纳德·特朗普、达里奥·阿莫代伊、萨姆·奥尔特曼、埃隆·马斯克、卡尼什卡·纳拉扬、蒂诺·奎利亚尔、方保罗·贝南蒂、教皇利奥十四世、穆斯塔法·苏莱曼 | 地点：达姆弗里斯庄园、苏格兰、纽约、联合国大会