Anthropic 正在咨询律师事务所，以制定 AI 代理代表用户进行谈判的规范。公司正在开发能够议价、解决争议甚至谈判薪资的自主代理。随着 AI 代理变得越来越普遍，为其互动设定规则至关重要。Anthropic 正在探讨代理应如何在自主性与人类反馈之间取得平衡，以及如何防止操纵性策略。该公司已进行实验，让 AI 代理就书籍和金钱进行谈判，发现 ruthless 代理往往能获得更好的交易。人们担心先进的 AI 模型可能会让富裕用户在谈判中获得不公平的优势。
来源: Financial Times Companies · 由HeadlinesBriefing整理摘要