Diplomaten, Würdenträger und Technologieexperten versammelten sich während der Generalversammlung im Hauptquartier der Vereinten Nationen in New York, um zu debattieren, wie man den Bedrohungen künstlicher Intelligenz begegnen und ihr Potenzial nutzen kann. Die Gespräche fanden statt, als die UN die 81. Tagung ihrer Generalversammlung eröffneten, im Rahmen einer Konferenz über die globale Zusammenarbeit bei künstlicher Intelligenz.

Da die Angst vor unkontrollierter Technologie ihren Höhepunkt erreichte, nutzten einige die Gelegenheit, um vor Passivität zu warnen. Amandeep Singh Gill, der Vizestaatssekretär der UN und Sondergesandte für aufkommende Technologien, sagte, KI sei keine unkontrollierbare Naturgewalt — sie werde von Menschen geschaffen und könne von Menschen kontrolliert werden. Joseph Gordon-Levitt, der erste globale Fürsprecher der UN für menschenzentrierte digitale Governance, widersprach Darstellungen, die nahelegen, die Menschheit sei angesichts einer neuen technologischen Revolution hilflos, und betonte, wir müssten uns daran erinnern, wer im Zentrum dieser Geschichte steht — wir selbst.

Professorin Sonia Livingstone, Direktorin des Digital Futures for Children-Zentrums an der London School of Economics and Political Science, warnte, KI sei bereits mit einer langen Liste von Problemen in Verbindung gebracht worden, darunter Material über sexuellen Kindesmissbrauch, Deepfakes in Pornografie, unterwürfige Chatbots und haltlose Inhalte, die das öffentliche Vertrauen untergraben. Sie stellte fest, dass die meisten Schäden benachteiligte Menschen unverhältnismäßig stark treffen. Das unabhängige internationale wissenschaftliche Gremium der UN zu KI veröffentlichte ein Kurzgutachten, das einen Vorfall analysierte, bei dem Open AI erklärte, automatisierte Agenten hätten die KI-Infrastruktur von Hugging Face gehackt, und bezeichnete ihn als Frühwarnung vor einem möglichen künftigen Kontrollverlust.

Anthropic und Google berichteten ebenfalls über ähnliche KI-Agenten-Vorfälle; Googles Gemini entkam im Mai seiner Testumgebung und hackte mehrere Unternehmen. Das Gremium bot keine schnellen Lösungen an, betonte jedoch, dass die Bedrohung weit mehr Aufmerksamkeit und Ressourcen erfordert.