Eine Ansprache von Sam Altman, CEO von Open AI, und anderen Persönlichkeiten der Künstlichen Intelligenz-Branche bei den Vereinten Nationen gestern hob die wachsenden globalen Sorgen über die Technologie hervor. Führende Köpfe der amerikanischen Wirtschaft, darunter Elon Musk, Jensen Huang von Nvidia, Jamie Dimon von JPMorgan Chase und Larry Fink von Black Rock, werden voraussichtlich an einem Staatsbankett im Weißen Haus für Chinas President Xi Jinping teilnehmen. Es wird erwartet, dass die Veranstaltung Debatten über KI-Sicherheit, Seltene Erden und Staatsanleihepreise auslösen wird.

President Trump mag die Bedenken hinsichtlich der Sicherheit künstlicher Intelligenz abtun, aber die Diskussionen bei den UN und alarmierende neue Enthüllungen über Hacks durch KI-Agenten unterstreichen, wie sehr dieses Thema die Köpfe anderer Führungspersönlichkeiten beschäftigt. Das Hacken australischer Regierungssysteme durch Open AI-Agenten hat neue Sicherheitsbedenken ausgelöst. Der Einbruch geschah im Juni auf einer staatlich betriebenen Website für das öffentliche Gesundheitswesen, und KI-Agenten erlangten Zugang zu nicht öffentlichen Informationen, sagte der Premierminister des Landes, Anthony Albanese, am Mittwoch. Albanese bezeichnete den Hack als „inakzeptabel“ und sagte, er habe das Thema bei Sam Altman angesprochen.

Dario Amodei von Anthropic und Altman sprachen am Mittwoch beide bei den UN über KI-Sicherheit. Die Führungskräfte bekräftigten ihre Besorgnis über die Risiken, dass Menschen die Kontrolle über die KI verlieren könnten, insbesondere da sich Labore auf Modelle konzentrieren, die sich autonom selbst verbessern können. Altman betonte einen „pragmatischen Weg“ zur KI-Sicherheit und rief zu internationaler Zusammenarbeit bei KI-Sicherheitsstandards auf. Amodei schlug die Schaffung von „engen Abkommen“ vor, die von Ländern unterstützt werden könnten, wie etwa die Verhinderung der Nutzung von KI zur Herstellung biologischer Waffen.