Anthropic hat angekündigt, dass einem Team der MET R mitarbeiterähnlicher Zugang gewährt wird. MET R ist eine gemeinnützige Organisation, die Frontier-KI-Modelle bewertet, und wird die Ergebnisse ihrer Risikobewertungen veröffentlichen. Der Schritt folgt auf die Zusage des Unternehmens, seine Modelle und Sicherheitspraktiken durch unabhängige Dritte strenger prüfen zu lassen, sowie auf die Unterzeichnung des Weißen-Haus-Abkommens zur Superintelligenz, in dem sich Unternehmen verpflichteten, mit unabhängigen externen Prüfern oder Gutachtern zusammenzuarbeiten.
Im vergangenen Jahr hat Anthropic mit MET R mehrere Überprüfungen seiner Risikoberichte durchgeführt. Das Unternehmen arbeitet außerdem mit Secure Bio und Accenture als Gutachtern zusammen und führt erste Gespräche mit mehreren weiteren Organisationen, darunter Hugging Face. Anthropic erklärt, dass Modelle mit zunehmender Leistungsfähigkeit stärkere Schutzmaßnahmen und anspruchsvollere Risikobewertungen benötigen, und dass das Unternehmen öffentlich für seine Entscheidungen Rechenschaft ablegen möchte. Da manche sicherheitsrelevanten Informationen für böswillige Akteure nützlich sein könnten oder kommerziell sensibel sind, gewährt das Unternehmen unabhängigen Gutachtern stattdessen tiefgehenden Zugang und lässt sie Belege und begründete Schlussfolgerungen mitteilen.
Um sich zu qualifizieren, benötigen Gutachter Expertise in der Bewertung von Frontier-Modellen, Unabhängigkeit von den Unternehmen, die sie prüfen, ausreichenden Zugang, um Risiken sinnvoll zu bewerten, und die Freiheit, ihre Erkenntnisse zu veröffentlichen. Anthropic vergleicht den Ansatz mit der Bankenaufsicht, bei der Aufsichtsbehörden residente Prüfer in den größten Banken platzieren.
Anthropic hat sechs Mitarbeiter der MET R mit Firmenhardware, Büroräumen sowie Zugang zu internen Werkzeugen eingestellt, der etwa dem entspricht, was den eigenen Risikobewertungsteams zur Verfügung steht. Anthropic kann eine Veröffentlichung nicht verhindern, kann aber Schwärzungen in engen, vorab festgelegten Kategorien verlangen, etwa bei Kundendaten, anwaltlich geschützten Informationen oder Modellarchitekturen. Das Unternehmen betont, dass diese Regelung keine Möglichkeit für andere Organisationen ist, an seine Informationen oder die seiner Kunden und Partner zu gelangen.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing