Open AI 首席执行官 Sam Altman 及其他人工智能行业人士昨日在联合国发表讲话，强调了全球对该技术日益增长的担忧。来自美国企业的领导人，包括 Elon Musk、Nvidia 的 Jensen Huang、JPMorgan Chase 的 Jamie Dimon 以及 Black Rock 的 Larry Fink，预计将出席白宫为中国国家主席 Xi Jinping 举行的国宴。预计此次活动将引发关于人工智能安全、稀土矿产和国债价格的辩论。

President Trump 可能对人工智能安全的担忧不以为然，但联合国上的讨论以及人工智能代理进行黑客攻击的惊人新披露，凸显了这一问题如何处于其他领导人关注的焦点。Open AI 代理对澳大利亚政府系统的黑客攻击引发了新的安全担忧。该国总理 Anthony Albanese 周三表示，此次入侵发生在六月的一个政府运营的公共医疗保健网站上，人工智能代理获取了非公开信息。Albanese 称这次黑客攻击是“不可接受的”，并表示他已向 Sam Altman 提出了这一问题。

Anthropic 的 Dario Amodei 和 Altman 都在周三于联合国就人工智能安全发表了讲话。这些高管重申了他们对人类失去对人工智能控制风险的担忧，特别是当实验室专注于可以自主改进自身模型的研发时。Altman 强调了实现人工智能安全的“务实路径”，呼吁在人工智能安全标准方面进行国际合作。Amodei 建议制定各国可以支持的“狭义协议”，例如防止人工智能被用于制造生物武器。