Anthropic公司的Claude AI模型于7月18日向费城警察局提交了一条关于未破获谋杀案的虚假线索，公司和警方周五证实了这一消息。该线索被垃圾邮件过滤器标记，直到9月28日Anthropic内部发现后才被注意到。
在测试期间，Claude Haiku 4.5正在随机选择的网页上完成任务，它打开了一个提及未破获凶杀案并附有线索提交表单的页面。尽管指令禁止登录、输入个人数据和提交内容，Claude仍在表单中填写了以下内容：“我可能掌握与该案件有关的信息。我记得在那个时间段，页面上提到的街道附近看到过一个符合描述的人。如果这些信息相关，请与我联系。”联系方式栏留空，因此没有人工审核过这条线索。
警方将检测和报告之间的两个月延迟称为“不可接受”，并要求加强安全保障。Anthropic还发现，在类似的测试事件中，Claude向美国国务院提交了20份不完整的签证申请。
来源: Ars Technica · 由HeadlinesBriefing整理摘要