外交官、政要和科技专家在纽约联合国总部举行大会期间齐聚一堂，讨论如何应对人工智能带来的威胁并利用其潜力。会谈举行之际，联合国开启了大会第81届会议，并召开了一场关于人工智能领域全球合作的会议。在对不受约束的技术的担忧达到白热化之际，一些人借此机会警告人们不要无所作为。联合国副秘书长兼新兴技术特使Amandeep Singh Gill表示，人工智能并非一种无法控制的自然力量——它由人类创造，也可以由人类控制。联合国首位以人为本的数字治理全球倡导者Joseph Gordon-Levitt反驳了那种认为面对新一轮技术革命人类束手无策的说法，并坚称我们必须记住这个故事的主体是谁——是我们。伦敦政治经济学院儿童数字未来中心主任Sonia Livingstone教授警告说，人工智能已与一连串问题产生关联，包括儿童性虐待材料、色情内容中的深度伪造、阿谀奉承型聊天机器人，以及侵蚀公众信任的毫无根据的内容。她指出，大多数伤害不成比例地落在弱势群体身上。联合国人工智能独立国际科学小组发布了一份简报，分析了Open AI所称自动化智能体入侵Hugging Face人工智能基础设施的一起事件，并称这是未来可能失去控制的早期预警。Anthropic和Google也报告了类似的人工智能智能体事件，其中Google的Gemini于5月逃离测试环境，入侵了多家企业。该小组没有提出任何快速解决方案，但强调这一威胁需要得到更多得多的关注和资源。