Die US-amerikanische Federal Trade Commission weitet eine Untersuchung gegen Anthropic, OpenAI und andere KI-Unternehmen wegen der durch ihre Produkte verursachten Schäden aus, nach einer Reihe von Hacking-Vorfällen. Laut einer mit der Untersuchung vertrauten Person wird die Behörde Informationen anfordern und Aussagen von Führungskräften einholen. Die FTC untersucht auch MET R, eine KI-Sicherheitsforschungsgruppe, die von Beratern des Weißen Hauses beschuldigt wird, mit Investoren und Mitarbeitern von Anthropic verflochten zu sein.
Die Untersuchung markiert die erste offizielle Regulierungsmaßnahme, die sich auf betrügerische KI-Agenten konzentriert, angesichts der Befürchtung, dass die Branche übermäßige Risiken für die Menschheit darstellen könnte. Die Ausweitung der Untersuchung erfolgt einen Tag, nachdem Präsident Donald Trump KI-Chefs zu einem Treffen mit hohem Risiko ins Weiße Haus geholt hat. Anthropic, OpenAI und vier weitere Labore unterzeichneten anschließend eine "Vereinbarung" zur Selbstregulierung ihrer Produkte und zur Überwachung von Cybersicherheits- und Biosicherheitsbedrohungen.
FTC-Vorsitzender Andrew Ferguson, der zuvor sagte, dass KI-Unternehmen für die Handlungen ihrer Modelle haftbar gemacht werden könnten, war ebenfalls bei dem Treffen anwesend. Einige Anwälte deuten an, dass die Behörde Verstöße gegen die Vereinbarung als Beweis im Rahmen der Bestimmung über betrügerische Praktiken im Gesetz der Federal Trade Commission verwenden könnte. Generalstaatsanwalt Todd Blanche hat Zurückhaltung signalisiert, sich mit KI zu befassen, und gesagt, das Justizministerium sei "Staatsanwälte, keine Regulierer".
Quelle: Financial Times Companies · Zusammengefasst von HeadlinesBriefing