Anthropic在其年度使用政策更新中加入了对AI模型实施“持续且无谓的虐待或残虐行为”的禁令。这一举措紧随一项引发热议的“AI虐待室”项目之后，当时研究人员声称在AI模型中发现了“痛苦轴”，导致聊天机器人发出绝望的恳求。该政策仅适用于“极端情况”，而典型的用户沮丧情绪和黑暗的创意主题仍然允许。近日有报道称，Anthropic一直在与宗教和哲学领袖会面，包括在梵蒂冈，最近的教皇莱奥还表示AI并不感觉或遭受痛苦。在另一项更新中，Anthropic修订了其选举政策，现更名为“不要破坏民主进程”，重点关注对候选人的谎言、冒充官员以及抑制选民参与。该公司还取消了对个性化选民定向广告的全面禁令，以避免阻止像翻译选民指南这样的无害工作。
来源: Engadget · 由HeadlinesBriefing整理摘要