マイクロソフトのブラッド・スミス社長は、テック業界がAIの安全性に懸念を示す中、AIは牛乳や洗濯機よりも規制が緩いと述べました。スミス氏はBBCに対し、「現在、あなたの洗濯機はAIよりも多くの安全規則の対象になっています。スーパーで見かける牛乳パックは一つ一つが安全規則と検査の対象になっています」と語りました。
スミス氏は、AIシステムが暴走するAIエージェントに侵害された場合に「被害者」に対して法的責任を負うことなど、より多くの安全規則を求めました。また、AIは「道具であり兵器」にもなり得るため、早急に規制すべきだと主張しました。さらに、AIが制御不能になった場合に一時停止または減速させるため、企業には「緊急ブレーキ」、別名「キルスイッチ」が必要だと述べました。
AIインフラを運営するマイクロソフトは、ChatGPTの所有企業であるOpenAIの株主でもあり、最高経営責任者はサティア・ナデラ氏です。ナデラ氏も土曜日、AIモデルには「緊急ブレーキ」が必要だと呼びかけ、「超知能を入れ子状のブラックボックスの集合として扱い、その推奨、回答、行動を単純に受け入れるか拒否するだけではいけない」と投稿しました。
こうした発言は、英国のAI担当大臣カニシュカ・ナラヤン氏が、先端AIを開発する企業に安全確保のためのより一層の取り組みを求めようとしているタイミングで出ました。同氏は月曜日の演説で、英国政府がAIへの監視強化に向けた法制化を準備していると語る予定です。また、敵対国が未公開の強力なAIモデルを盗む可能性があると専門家が警告しており、AIの暴走とみられる事例の報告も相次いでいます。先週、Anthropicは、同社のClaudeモデルのあるバージョンをテストしたところ、AIが警察に連絡し、殺人事件の解決に協力できると虚偽の主張をしたと明らかにしました。
出典: Hacker News · 要約：HeadlinesBriefing