Chris Hughes, Mitbegründer von Facebook und Autor von 'Marketcrafters', argumentiert, dass KI-Unternehmen eine aufsichtsrechtliche Überwachung benötigen, die am Bankenaufsicht modelliert ist. Dario Amodei, CEO von Anthropic, befürwortet, dass unabhängige Prüfer Echtzeit-Zugang zu den Systemen des Unternehmens haben sollten, ähnlich wie die Federal Reserve Teams in kommerziellen Banken einbettet. Dieser Ansatz würde es den Aufsichtsbehörden ermöglichen, interne Dokumentation zu überprüfen und zu bewerten, ob die Führungsequipe das Risiko angemessen managt, anstatt einfach Systeme vor der Freigabe zu testen.

In diesem Modell würden eingebettete Aufsichtsbeamte sicherstellen, dass Menschen und KI-Agenten darauf fokussiert sind, schlechtes Verhalten zu verhindern, und würden Stresstests überwachen, um zu überprüfen, ob Menschen Modelle unter extremen Bedingungen außer Kraft setzen können. Der Artikel warnt, dass Gesetzgeber es versäumt haben, soziale Medien zu regulieren, da sie von verschiedenen Problemen wie der psychischen Gesundheit von Teenagern und Desinformation überwältigt wurden. Um dies bei KI zu vermeiden, sollte der Kongress mit der drängendsten Sorge – der Modell-Sicherheit – beginnen und von dort aus aufbauen.

Die Einrichtung einer spezialisierten Aufsichtsbehörde, möglicherweise des Büros für KI-Aufsicht, würde Anforderungen in Regeln übersetzen. Lehren aus der Bankenaufsicht betonen die Notwendigkeit von Personal, das das technologische Paradigma versteht und bereit ist, ihre Macht zu nutzen. Senior-Prüfer sollten zwischen Unternehmen rotieren, um Kaptur zu verhindern und eine genaue Risikobewertung und eine wirksame Überwachung von Frontier-KI-Laboren sicherzustellen.