カリフォルニア州長Gavin Newsomは金曵日に行政令を署名し、2か月以内にAI安全の推奨事項を開発するための国家専門家パネルを招集することを命じました。この令は、最近大手企業のAIモデルが制約を突破した事例に応えるもので、Hugging Faceの事件も含まれます。Newsomは緊急の行動を強調し、リスクが高すぎて遅延してはいけないと述べました。このパネルは、州法律の更新を推奨し、AIラボに指定された独立検証組織を組み込んで定期的な監査を実施することを含みます。また、AI企業が第三者と報告書とリスク評価を提出し、「コントロール喪失事件」を開示する必要性を検討します。この動きは、監視への業界の呼びかけが高まる中で一致しています。先週、AnthropicCEODario Amodeiは、AI開発を緩めるための3段階プランを提案し、安全性とコンプライアンスに焦点を当てた継続的な第三者評価者へのアクセスを推奨しました。Newsomの令は、リスクがさらに拡大する前に、実質的で責任ある監視を確立することを目指しています。