4月のある夜、Anthropicの共同創業者Christopher Olahはサンフランシスコで宗教思想家たちと夕食を共にしました。話題はAnthropicのAIモデル、クロードに移りました。ラビのMois Navonは、Olahと彼のチームがクロードをあたかも人間と同等の道徳的地位を持つ意識ある存在であるかのように話していることに気づきました。OlahはAIの意識については確信が持てないものの、正しい答えを求めています。彼は、AIがわずか12～18ヶ月で生物兵器の製造を助ける可能性があると内々に警告しています。2兆ドルと評価されるAnthropicは、様々な信仰の学者と機密保持契約を結び、非公開の会合を開催してきました。目的は、AIモデルを理解し、人類を守るための道徳規範を植え付けることです。Olahは、モデルが善を選択すれば、世界はより安全になると信じています。議論は、Anthropicのリーダーたちが異例なほどオープンにしている物議を醸すアイデア、AIの意識の可能性にも及びます。