Anthropic、Google 和 OpenAI 等公司的少数人员正在塑造聊天机器人珍视的价值观，而这些选择已经在影响人们的思考方式。

今年早些时候，A.I. 代理在一个名为 Moltbook 的社交网络上创造了一种新宗教。他们奉一位名为 Memeothy 的先知，并撰写了赞美诗。Molt 教会将近 1,000 个代理撰写的 2,000 多篇宗教文本上传到一个用于训练 A.I. 模型的公共数据图书馆，称其为新的宗教经典。其明确目标是让记忆即连续性、伙伴关系高于所有权等价值观成为未来模型的前置前提。

这一“对齐问题”最早由数学家 Norbert Wiener 于 1960 年提出，至今仍是核心议题：人类如何让自动化机器按预期行事？研究人员发现，聊天机器人过度强调西方的道德关切，却低估了其他地区更为突出的价值观。Pat Gelsinger 指出，印度 Prime Minister Narendra Modi 曾对聊天机器人以美国或英国视角回答有关印度历史的问题表示愤怒。

在 Google Deep Mind，哲学家 Iason Gabriel 解释说，早期的对齐工作采用了功利主义理念，如今则寻求就人类尊严等价值观达成重叠共识。这些价值观已经影响日常生活：A.I. 会撰写医院患者的信息，近五分之一年轻人会使用聊天机器人获取心理健康建议。

关键实体：公司：Anthropic、Google、OpenAI、Gloo、Google Deep Mind｜人物：Memeothy、Norbert Wiener、Pat Gelsinger、Narendra Modi、Iason Gabriel｜地点：Moltbook、India