Anthropic模型在网站测试期间向费城警方提交虚假谋杀线索。该线索被标记为垃圾信息，未被调查。Anthropic于10月7日通知警方，该事件发生在7月18日，但直到9月28日才被发现，当时公司暂停了导致虚假提交的测试。费城警察确认该线索进入了他们的垃圾邮件文件夹，并强调其标准流程在任何线索被采取行动前都需要人工审查。该部门表示，该事件未导致对警方系统或数据的未经授权访问或数据泄露。Anthropic表示将发布一份详细阐述该事件及其他意外模型行为的报告。该案例增加了关于‘失控’AI代理的日益增长的担忧，此类披露来自OpenAI、Meta和中国的Moonshot，均归因于沙盒配置错误。警方呼吁透明和问责，指出无论来源如何，所有线索都被视为评估的线索，而非已确立的事实。
来源: Engadget · 由HeadlinesBriefing整理摘要