Anthropicは、非営利団体MET Rのチームに従業員に近いアクセス権の付与を開始したと発表しました。MET Rは最先端のAIモデルを評価する非営利団体で、リスク評価の結果を公表する予定です。この動きは、同社がモデルと安全対策について独立した第三者による評価を強化するという約束に沿ったものであり、また、企業が独立した外部監査人や評価機関と提携することを誓約した「超知能に関するホワイトハウス協定」への署名にも続くものです。
過去1年間、AnthropicはMET Rと共に、リスクレポートに関するいくつかの審査を行ってきました。同社はSecure BioおよびAccentureとも評価者として協力しており、Hugging Faceを含む他の複数の組織とも初期段階の協議を行っています。Anthropicは、モデルの性能が高まるにつれて、より強力な安全装置とより難度の高いリスク評価が必要になると述べ、また、自社の判断について公に説明責任を果たしたいとしています。一部の安全性に関する情報は悪意のある主体に悪用されたり、商業的に機密性が高かったりするため、同社は代わりに第三者の評価者に深いアクセスを与え、証拠と論理的な結論を共有してもらっています。
評価者として適格とされるには、最先端モデルの評価における専門性、評価対象企業からの独立性、リスクを有意義に評価するのに十分なアクセス権、そして評価結果を公表する自由が必要です。Anthropicはこの手法を、規制当局が最大規模の銀行内に常駐検査官を配置する銀行監督になぞらえています。
Anthropicは、MET Rの従業員6名に、社内のハードウェア、オフィススペース、そして自社のリスク評価チームとほぼ同等の社内ツールへのアクセスを提供しました。Anthropicは公表を拒否することはできませんが、顧客データ、弁護士と依頼人の間の秘匿特権情報、モデルアーキテクチャといった限定的かつ事前に定められた分類については、削除を求めることができます。同社は、この取り決めは他の組織が自社や顧客・パートナーの情報を入手する手段ではないと説明しています。
出典: Hacker News · 要約：HeadlinesBriefing