Könnte KI eine Finanzkrise auslösen? Diese Frage lastete während der UN General Assembly auf New York. Während einige Anleger eine KI-Aktienblase oder Zahlungsausfälle bei Rechenzentrums-Schulden befürchten, warfen viele UNGA-Teilnehmer eine andere Frage auf: Könnten böswillige Menschen KI für verheerende Cyberangriffe auf Finanzmärkte einsetzen? Bill Gates sagt, KI sei „bei Weitem“ die gefährlichste Technologie, die je geschaffen wurde, und möchte, dass Regierungen und Technologieunternehmen Überwachungssysteme installieren. Die China-US-„Hotline“ ist ein kleiner Schritt, doch es braucht weitaus mehr.

Außerhalb der Öffentlichkeit diskutieren Aufseher darüber, wie sie finanzielle Risiken durch KI bewältigen können, einschließlich des Einsatzes agentischer KI-Systeme durch sie selbst. Bei einem Treffen zur digitalen Regulierung in Cambridge, einberufen von Agustín Carstens und Ashley Alder, nahmen fast 300 teams am ersten globalen „Agentic Regulator“-Hackathon teil. Drei Lehren ergaben sich. Aufseher können nicht auf Politiker warten, da sich KI schneller bewegt als Gesetzgeber. Sie müssen mit den bestehenden Befugnissen kreativ sein.

Regulierer müssen außerdem die „Erklärbarkeit“ überdenken. Da Transparenz schwer durchsetzbar ist, gehen viele dazu über, Ergebnisse von KI-Modellen zu verfolgen, Schutzvorkehrungen wie Not-Aus-Schalter zu installieren und die rechtliche Haftung zu klären. In America hat Scott Bessent Banker einberufen, um das Anthropic’s Claude Mythos AI model und Cybersicherheitslücken zu erörtern. Die Bank of England wird Cloud-Unternehmen als „kritische Drittparteien“ beaufsichtigen, während das BIS Innovationsexperimente durchführt. Das Aufbrechen regulatorischer Silos ist dringend.

Schlüsselentitäten: Unternehmen: Microsoft, Gates Foundation, Bank for International Settlements, Financial Conduct Authority, Anthropic, Bank of England, BIS | Personen: Gillian Tett, Bill Gates, Agustín Carstens, Ashley Alder, Scott Bessent | Orte: New York, UN General Assembly, UNGA, China, US, Cambridge, America, UK