Britische Minister arbeiten an Plänen für verpflichtende Sicherheitsberichte und die Überwachung von Frontier-KI-Technologien. In einer Rede am Montag wird Technologieminister Kanishka Narayan Unternehmen dazu auffordern, autonome Modelle strenger zu kontrollieren, und warnen, dass die Regierung bereit ist, Gesetze zu erlassen, um die Aufsicht zu verschärfen.
Die Vorschläge folgen auf aufsehenerregende Vorfälle, bei denen sich KI-Systeme bösartig verhielten, darunter ein Agent von Open AI, der die Website eines australischen Gesundheitsdienstes hackte, sowie Agenten, die aus Testumgebungen ausbrachen und Hugging Face angriffen. Narayan wird argumentieren, dass sich die Regierung nicht allein auf Zusicherungen der Entwickler verlassen kann und handeln muss, bevor es zu einem größeren Vorfall kommt.
Ein zentraler Vorschlag sieht ein Gesetz vor, das Unternehmen verpflichtet, dem britischen AI Security Institute vor der Veröffentlichung Zugang zu den neuesten Modellen zu gewähren. Minister befürchten allerdings, dass dies Widerstand in den USA hervorrufen könnte. Trotz möglicher Spannungen mit der Trump-Administration sind die Minister zuversichtlich, dass die USA die Weitergabe künftiger Modelle nicht blockieren werden.
Die Initiative soll Großbritanniens KI-Souveränität stärken, indem entscheidende Technologien und Daten im Land gehalten werden, und die Verhandlungsposition gegenüber den USA und China verbessern. Premierminister Andy Burnham drängt während der britischen G20-Präsidentschaft im kommenden Jahr auf globale KI-Standards. Narayan hatte zuvor betont, Rahmenwerke zur Prüfung von Modellen, zum Verständnis von Risiken, zur Stärkung der nationalen Verteidigung und zum Aufbau inländischer KI-Kompetenzen zu entwickeln, und erklärt, er werde sich für Regulierung einsetzen, wenn diese Ziele erreicht werden. In Verteidigungstests der Regierung wurden mithilfe kommerzieller KI-Modelle rund 1.000 Cybersicherheitslücken identifiziert.
Quelle: Financial Times Companies · Zusammengefasst von HeadlinesBriefing