Nach einem zweistündigen Mittagessen mit den KI-Chefs des Silicon Valley am Dienstag kam Donald Trump aus dem Weißen Haus und pries eine freiwillige „Vereinbarung“ zwischen sechs führenden Unternehmen an, um die Technologie „selbst zu regulieren“, die kürzlich für eine Reihe alarmierender Hacks verantwortlich war. Der Präsident sagte Reportern, dass das zweiseitige Dokument – das im East Room spontan verfasst wurde und einen Rechtschreibfehler enthielt – „fast wie eine Verfassung“ sei, und behauptete, es stelle „eine Form des Schutzes“ gegen die von KI ausgehenden Risiken dar.
Die Vereinbarung ist weit entfernt von den Schutzmaßnahmen, die KI-Führungskräfte wie Dario Amodei von Anthropic gefordert haben. Die freiwillige Vereinbarung skizziert kurz „Ebenen von Kontrollen und Audits“, die die sechs Unterzeichner – Anthropic, OpenAI, Google, Meta, xAI und Nvidia – umsetzen sollen. Dazu gehören „robuste interne Kontrollen“ zur Überwachung von Cyber- und Biosicherheitsbedrohungen und um sicherzustellen, dass sie Systeme nicht auf „unbeabsichtigte Weise“ hacken.
Das Dokument verpflichtet die Unternehmen auch dazu, mit einem unabhängigen externen Prüfer „zusammenzuarbeiten“ und individuell „ein unabhängiges Komitee des Verwaltungsrats“ zu benennen, um den Prozess zu überwachen. Führende Labore führen bereits Fähigkeitsbewertungen durch, und alle außer Nvidia haben nach dem KI-Gipfel 2024 in Seoul ähnliche Verpflichtungen unterzeichnet. „Es ist auf der Vibes-Ebene am bedeutendsten“, sagte Mackenzie Arnold, Managing Director von US Law & Policy bei Law AI.
Ist es rechtlich bindend? Nicht im traditionellen Sinne, da Trump selbst das Dokument als „moralisch bindend“ bezeichnete. Einige Anwälte glauben, dass es die Tür für eine spätere rechtliche Anfechtung durch Regulierungsbehörden öffnet, wenn die Unterzeichner ihre eigenen Verpflichtungen nicht einhalten. „Sie können keine öffentliche Erklärung abgeben, in der Sie sagen, dass Sie etwas tun werden, und es dann materiell nicht einhalten“, sagte Joel Thayer, ein konservativer Anwalt. Die FTC weitete am Mittwoch eine bestehende Untersuchung von KI-Unternehmen aus und untersuchte Anthropic, OpenAI und andere Labore auf die Risiken, die ihre Technologie birgt.