Der Alarm, den KI-Vorstände über die Produkte schlagen, die sie selbst eilig auf den Markt gebracht haben, ist ein bemerkenswertes Eingeständnis des Scheiterns und ein spektakuläres Governance-Versagen. Warum bitten dann globale Politiker dieselben CEOs, über Lösungen zu sprechen, während sie debattieren, ob ihre Technologie die Menschheit verdammt hat? Wieder einmal lassen wir Unternehmenslenker die Bedingungen der Diskussion diktieren und fragen sie, was zu tun sei. Selbst EU-Kommissionspräsidentin Ursula von der Leyen lud in ihrer jüngsten State-of-the-Union-Rede KI-CEOs ein, über "das Tempo an der Grenze zu bestimmen" und "laufende Branchenbemühungen zu unterstützen".

Dieses Entgegenkommen sendet das falsche Signal zur falschen Zeit. Stellen Sie sich vor, man bittet Ölkonzerne, Klimapolitik zu entwerfen, oder Autohersteller, Verkehrsregeln zu machen. Das ist umso eigenartiger, als Europa mit dem EU AI Act ein umfassendes KI-Gesetz hat, das Risikominderung in den Mittelpunkt stellt.

Statt Wirtschaftsführer zu fragen, was die Gesellschaft künftig braucht, sollten politische Führer deren Behauptungen besser auf den Prüfstand stellen und sicherstellen, dass ihre Geschäfte und Produkte zum gesamtgesellschaftlichen Erfolg beitragen. Wo waren die Gesetzgeber, als Rechenzentren ohne Transparenz über Eigentum, Ressourcenbedarf oder Auswirkungen auf lokale Gemeinden errichtet wurden? Wo war die Aufsicht, als Sicherheitsbedenken beiseitegeschoben wurden, um Wettbewerbsvorteile zu steigern? Das Gesetz muss der Anker jeder Handlung europäischer Führer sein und aktualisiert werden, wenn technologische Fortschritte dies erfordern. Der AI Act umfasst derzeit Transparenzpflichten, die Bewertung und Milderung systemischer Risiken und sieht die Aufsicht über General-Purpose-Modelle vor.

Das sind genau die Bausteine, die viele Experten hoffen, dass Regulierung andernorts ebenfalls sicherstellt. Europa sollte keine Gipfel mit KI-CEOs veranstalten als Ersatz für die Durchsetzung der Regeln, die es bereits hat. Bestehende Gesetze konsequenter durchzusetzen, ermöglicht unmittelbareres Handeln.

Die Gesellschaft braucht ein weit besseres Verständnis dessen, was in KI-Laboren passiert, von der Experimentierung bis zum Deployment. Das ermöglicht Risikobewertungen, informiert Politik und erlaubt, neue Modellveröffentlichungen entsprechend zu takten oder sogar zu stoppen. Unverbindliche Moratorien, die zwischen den Unternehmen ausgehandelt wurden, die sie einhalten müssten, bringen uns nicht an einen besseren Ort.

Tatsächlich führten frühere Aufrufe von KI-Führern zu einer Pause bei der Entwicklung von Frontier-Modellen zu null Verhaltensänderung. Wir brauchen einen umfassenden Governance-Reset unter Führung demokratischer Führer und Institutionen, um unabhängige Prüfung und echte Rechenschaftspflicht zu erreichen. Dario Amodei von Anthropic hat eine Koalition der Demokratien gefordert, um KI-Sicherheit gemeinsam zu regeln. Als Gastgeber führender Frontier-Labs halten die USA den Schlüssel zu einer solchen Koalition.

Wenn US-Unternehmen im Inland rechenschaftspflichtig sind, wirkt sich das weltweit aus. Washington würde seinen eigenen Brüssel-Effekt genießen: US-Regeln würden zum globalen KI-Governance-Standard, so wie EU-Regeln zu Datenschutz und Produktsicherheit Normen weit über ihre Grenzen hinaus prägten. Dieser Effekt materialisiert sich jedoch nur, wenn die Regeln Substanz haben und sich in Werten mit anderen Demokratien decken.

Wenn sie globale KI-Governance wollen, sollten Tech-Unternehmen Washington für verbindliche Regulierungen lobbyieren — eine 180-Grad-Wende zum aktuellen Kurs. Wie kamen wir an den Punkt, dass KI-Firmen Investoren und Märkte überzeugten, sie würden die Zukunft bauen, nur um gleichzeitig zu warnen, sie würden sie beenden? Lassen Sie uns stattdessen darauf fokussieren, die demokratische Governance von KI zu stärken. Wir können nicht auf einen weiteren Zwischenfallsbericht warten, der vor Katastrophe warnt.

Brandstifter sind keine guten Feuerwehrleute.