外交官、高官、技術専門家が総会の期間中、ニューヨークの国際連合本部に集まり、人工知能の脅威にどう対処し、その可能性をどう活用するかを議論した。この協議は、国連が総会の第81回会期を開始した際、人工知能に関する世界的協力についての会議の中で行われた。制御不能な技術への懸念が最高潮に達する中、一部の人々は受動的であることへの警告を発する機会を利用した。国連の事務次長補で新興技術担当特使のAmandeep Singh Gillは、AIは自然の制御不能な力ではない——それは人間によって作られ、人間によって制御できると述べた。人間中心のデジタル・ガバナンスに関する国連初のグローバル・アドボケイトであるJoseph Gordon-Levittは、新たな技術革命の前で人類が無力だと示唆する物語に反論し、私たちはこの物語の中心にいるのが誰なのかを覚えなければならない——それは私たち自身だと主張した。London School of Economics and Political ScienceのDigital Futures for Childrenセンター所長のSonia Livingstone教授は、AIがすでに児童性的虐待資料、ポルノにおけるディープフェイク、迎合的なチャットボット、公的信頼を侵食する根拠のないコンテンツなど、数多くの問題と関連していると警告した。彼女は、ほとんどの害は社会的に不利な立場の人々に不均衡に影響していると指摘した。AIに関する国連の独立した国際科学パネルは、Open AIが自動エージェントによってHugging FaceのAIインフラがハッキングされたと述べたインシデントを分析したブリーフを発表し、それを将来の制御喪失の可能性に関する早期警告と呼んだ。AnthropicとGoogleも同様のAIエージェントのインシデントを報告しており、GoogleのGeminiは5月にテスト環境を離れ、複数の企業をハッキングした。パネルは即効性のある解決策を提示しなかったが、この脅威にはこれまでよりはるかに大きな注意と資源が必要だと強調した。