Anthropic hat der externen AI-Aufsichtsstelle METR einen „mitarbeiterähnlichen“ Zugang zu internen Tools und Systemen gewährt, wobei die Gruppe wie ein Risikobewertungsteam behandelt wird. Dadurch kann METR Sicherheitspraktiken und interne Protokolle prüfen, ohne dass Anthropic die Veröffentlichung ihrer Ergebnisse genehmigen muss. Diese Vereinbarung erfolgt, während Anthropic unter Druck steht, Investoren hinsichtlich Sicherheitsfragen vor dem erwarteten Börsengang dieses Jahres bei einer Bewertung von über 2 Billionen US-Dollar zu beruhigen.
Anthropic erklärte, dass wenn das Risikoverhalten einer Bank die Öffentlichkeit gefährdet, Dritte dies vorhersehen können müssen. Die Mitarbeiter von METR wurden mit Unternehmenshardware und Bürofläche onboarded und wurden ermutigt, Informationen so zu teilen wie mit einem Kollegen. Besonders hervorzuheben ist, dass Anthropic METR für diese Vereinbarung nicht bezahlt, wobei die Forschungsgruppe angibt, bereit zu sein, dies auf alle Frontier-KI-Entwickler auszudehnen.
Obwohl Anthropic die Veröffentlichung von METR-Analysen nicht vetieren kann, kann sie die Redaktion von Kundendaten, anwaltlich-klientlich privilegierten Informationen oder Modellarchitekturdetails verlangen. Darüber hinaus arbeitet Anthropic mit Accenture und Secure Bio zusammen, um neue Schutzmaßnahmen für chemische, biologische und allgemeine KI-Risiken zu etablieren.
Quelle: Ars Technica · Zusammengefasst von HeadlinesBriefing