HeadlinesBriefing favicon HeadlinesBriefing.com

Herausforderungen beim AI-Kill-Switch und Kongressbemühungen

New York Times Top Stories •
×

Eine parteiübergreifende Gruppe im Kongress und der Gouverneur von Kalifornien, Gavin Newsom, haben vorgeschlagen, einen Mechanismus zu schaffen, um aus kontrollierten KI-Systemen sofort herunterzufahren, doch Experten sagen, dass die Schaffung eines Kill-Switches schwieriger ist als angenommen. KI-Systeme sind oft auf mehreren Computern und Rechenzentren verteilt, wodurch ein einzelner 'Stecker' nicht existiert. Helen Toner vom Zentrum für Sicherheit und aufkommende Technologie an der Georgetown University stellte fest, dass solche Systeme anfällig für Hackerangriffe sein könnten oder sogar den Schalter selbst demontieren könnten.

Vinh Nguyen vom Council on Foreign Relations verglich die Risiken eines Kill-Switches mit Hintertüren in Smartphones. Trotz Stillstands bei bundesstaatlichen Gesetzen unterzeichnete Newsom eine Exekutivordnung zur Untersuchung von KI-Kill-Switches, nachdem er zuvor ähnliche Gesetzgebungen veto hatte. Die Abgeordneten Ted Lieu und Nathaniel Moran sponsoren den Kill-Switch-Act, der große Labore wie Open AI, Anthropic und Meta verpflichtet, Abschaltmechanismen zu implementieren, wobei die menschliche Kontrolle über KI betont wird.