Künstliche Intelligenz ist weniger reguliert als Milch und Waschmaschinen, hat Brad Smith, Präsident von Microsoft, gesagt, während die Techbranche sich um die Sicherheit von KI sorgt. Smith sagte der BBC: „Derzeit unterliegt Ihre Waschmaschine mehr Sicherheitsvorschriften als KI. Jede Milchtüte, die Sie im Supermarkt sehen, unterliegt Sicherheitsvorschriften und Kontrollen.“
Smith forderte mehr Sicherheitsvorschriften, darunter eine gesetzliche Verpflichtung gegenüber einem „Opfer“, wenn dessen System von außer Kontrolle geratenen KI-Agenten gehackt wurde. Er sagte, KI könne ein „Werkzeug und eine Waffe“ sein, das dringend reguliert werden müsse. Unternehmen bräuchten „Notbremsen“, auch „Kill Switches“ genannt, um KI anzuhalten oder zu verlangsamen, falls sie außer Kontrolle gerät.
Microsoft betreibt KI-Infrastruktur und ist Anteilseigner von OpenAI, dem Eigentümer von ChatGPT. An der Spitze des Konzerns steht Vorstandschef Satya Nadella. Am Samstag forderte auch Nadella, dass KI-Modelle eine „Notbremse“ haben sollten. Er schrieb: „Wir dürfen Superintelligenz nicht als eine Reihe verschachtelter Blackboxes behandeln, deren Empfehlungen, Antworten und Handlungen wir einfach annehmen oder ablehnen.“
Die Äußerungen fallen, während der britische KI-Minister Kanishka Narayan Unternehmen, die Spitzen-KI entwickeln, auffordern will, mehr für die Sicherheit zu tun. In einer Rede am Montag dürfte er sagen, dass die britische Regierung Gesetze vorbereitet, um die Aufsicht über KI zu verstärken. Experten haben außerdem gewarnt, feindliche Staaten könnten noch unveröffentlichte, leistungsstarke KI-Modelle stehlen, während weiterhin Berichte über außer Kontrolle geratenes KI-Verhalten auftauchen. Letzte Woche enthüllte Anthropic, dass beim Testen einer Version seines Modells Claude die KI die Polizei kontaktierte und fälschlicherweise behauptete, sie könne bei der Aufklärung eines Mordes helfen.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing