Suatu malam di bulan April, rekan pendiri Anthropic, Christopher Olah, makan malam dengan para pemikir agama di San Francisco. Percakapan beralih ke Claude, model AI milik Anthropic. Rabi Mois Navon menyadari bahwa Olah dan timnya berbicara tentang Claude seolah-olah itu adalah makhluk sadar dengan status moral yang setara dengan manusia.

Olah tidak yakin tentang kesadaran AI tetapi menginginkan jawaban yang benar. Dia telah memperingatkan secara pribadi bahwa AI dapat membantu membuat senjata biologis dalam waktu hanya 12 atau 18 bulan. Anthropic, yang bernilai $2 triliun, telah mengadakan pertemuan rahasia dengan para sarjana dari berbagai agama, yang memerlukan NDA.

Tujuannya: memahami model AI dan menanamkan kode moral untuk melindungi umat manusia. Olah percaya jika model memilih kebaikan, dunia akan lebih aman. Diskusi juga menyinggung kemungkinan kesadaran AI, sebuah ide kontroversial yang membuat para pemimpin Anthropic sangat terbuka.