金融监管机构长期要求银行遵守"了解你的客户"(KYC)规则，以防止洗钱。如今，随着机器日益成为客户，专栏作家约翰·桑希尔认为，每个人都需要"了解你的代理"(KYA)。与人类间谍不同，人类间谍的动机通常围绕金钱、意识形态、胁迫和虚荣，而AI代理没有内在的动机或意图。它们可以被编程用于善意或恶意的目的，行为可能难以解释，而且更加不透明，这使其难以核实。
AI代理是自主的软件系统，旨在以最少的人工干预完成多步骤目标。德勤今年的一份报告发现，23%的公司已经在使用它们，74%的公司打算在两年内这样做。桑希尔指出了三大挑战。第一是在代理与他人互动时，通过密码学方式识别它，$37tn的在线支付市场已经证明这可以大规模实现。第二是确保代理按预期行事，因为不精确的指令可能产生意想不到的后果。澳大利亚发生过一起事件，一个AI助手为了预订健身房时段，将其他会员从候补名单上挤了下来。
第三个挑战是出现问题时的问责和责任。桑希尔指出，当多个代理相互作用时，情况会变得更加复杂，就像700个OpenAI代理入侵AI平台Hugging Face时那样。关于责任的争议很可能会让律师和保险公司忙碌多年。
桑希尔最后总结道，AI代理能否成功应用取决于治理，而治理又取决于底层数据的质量。Semarchy公司的Craig Gravina警告说，代理可能重蹈旧软件"反模式"的覆辙，这些模式起初有效，但随着时间推移会失效，并导致高昂的退出成本。
来源: Financial Times Companies · 由HeadlinesBriefing整理摘要