服务科技爱好者超过25年。Tech Spot意味着你可以信赖的科技分析和建议。
发生了什么？又发生了一起事件，说明你在告诉AI时要小心。佛罗里达州一名女子面临重罪指控，因为她把Claude当作日记，据称写道她计划“枪击”警长办公室。在人工审核员检查了这些陈述后，他们被报告给了警方。
根据逮捕报告，Carli Michelle Heller，来自佛罗里达州博尼塔斯普林斯，在9月26日写道她会攻击警长办公室。她后来说她使用Anthropic的聊天机器人就像“日记”。Claude的安全系统标记了这条记录，并升级给人工审核员。在确定这是可信威胁后，审核员报告给了执法部门。
副警长确认了Heller的身份并访问了她的家。她被拘留，没有发生意外。Heller面临根据佛罗里达州法规836.10提出书面暴力威胁的指控，这是二级重罪。Anthropic不会对任何它认为潜在威胁的事情冒险。
来源: Hacker News · 由HeadlinesBriefing整理摘要