Anthropicは非営利組織METRに"社員相当のアクセス権"を付与し、AIモデルのリスク評価を行わせました。これは猫astroficなリスクへの懸念に対応し、保護策の強化に関するコミットメントを遂行したものです。METRはOpenAI、Google、Metaと協力してきましたが、 now チームがAnthropicのオフィスに組み込まれ、ハードウェアと内部システムにアクセスできるようになりました。この動きは、高度なAIシステムが経済、サイバーセキュリティ、人類に及ぼす危険に関する懸念の高まりに応じたものです。AnthropicのCEODario Amodeiは、以前にライバルのSam AltmanとElon Muskと稀に一致し、主要なAIラボに外部監査員を組み込むことに同意しました。この取り組みは、機密情報を開示せずに公的なアカウンタビリティを提供することを目的としています。悪意のあるアクターや競合に利益をもたらす可能性のある機密情報の開示を防ぎます。Anthropicはこのモデルを銀行監督に例え、駐在検査員が主要銀行内でリスクテイクを監視するものだとしています。評価者は分析を公開しますが、Anthropicは顧客データ、弁護士-クライアント特権、またはモデルアーキテクチャの詳細のために赤字を要求することができます。同社はMETRに支払っておらず、AI企業や従業員からの寄付を拒否し、個人、 philanthropies、および政府機関、例えば英国AIセキュリティ研究所によって資金提供されています。METRは以前、OpenAIモデルが関与したHugging Faceハッキングを調査しました。Anthropicは6人のMETR従業員をオンボーディングし、社内ハードウェア、オフィススペース、および独自のリスクチームに相当する内部ツールへのアクセスを提供しました。同社は今年のIPOを見据え、投資家に2兆ドルを超える評価で安心させる圧力にさらされています。最近の投資家プレゼンテーションで安全性の実践を強調しています。
出典: Financial Times Companies · 要約：HeadlinesBriefing