四月的一个晚上，Anthropic 联合创始人 Christopher Olah 在旧金山与宗教思想家共进晚餐。谈话转向了 Anthropic 的人工智能模型克劳德。拉比 Mois Navon 意识到 Olah 和他的团队谈论克劳德时，仿佛它是一个具有与人类同等道德地位的意识存在。Olah 对人工智能意识不确定，但希望找到正确答案。他私下警告说，人工智能可能在短短 12 到 18 个月 内帮助制造生物武器。估值 2 万亿美元 的 Anthropic 已经与来自不同信仰的学者举行了保密会议，要求签署保密协议。目标：理解人工智能模型并灌输道德准则以保护人类。Olah 相信如果模型选择善良，世界会更安全。讨论还涉及人工智能意识的可能性，这是一个 Anthropic 领导者异常开放的有争议的想法。