Anthropicは、AI企業の最先端モデルの第三者評価者としてAccentureと提携し、CEO Dario AmodeiのAI開発を遅らせる計画の第一歩を踏み出した。この提携には、両社が5年間でそれぞれ少なくとも10億ドルを投資し、Accentureの評価者がAnthropic内に組み込まれてモデルの訓練を監視し、ガバナンスの決定に従い、AIのアライメントを評価することが含まれる。Amodeiの3段階のアプローチでは、最先端AI企業の組み込み評価者が、セーフティプラクティスを確保し、インシデントを報告し、モデルのアライメントを評価するために、従業員のような継続的なアクセスを必要とする。Accentureは、企業や政府が産業全体にわたってAIを展開するのを支援する経験を持ち、Anthropicのモデルに対して企業の視点を提供する。しかし、組み込み評価者モデルは新しく、スコープ、アクセスレベル、または報告手順に関する確立された基準はない。Anthropicは今後数週間で追加の評価者を発表する予定であり、AccentureはAnthropic以外の他のAI企業とも協力する予定である。