根据周四发布的一份新报告，Anthropic 已标记并阻止多名科学家使用其 AI 模型创建潜在生物武器。该报告详述了五个案例研究，其中 Claude 被滥用于生物武器研究，包括对基孔肯雅病毒和禽流感的功能增益研究，以及毒液毒素肽图谱的开发。Anthropic 的生物安全分类器检测到这些请求，促使账号被封禁并改进模型防护措施。公司强调，区分合法疫苗研究与有害应用极具难度，指出意图往往不明确。Anthropic 威胁情报负责人 Jacob Klein 将这些情况描述为"极其微妙"，并强调公司因潜在后果而倾向于谨慎行事。Anthropic 未公开涉及的个人或机构名称，理由是担心他们的安全且未断定存在有害意图。报告还涵盖了监控、软件漏洞利用、宣传和武器系统等方面的滥用情况。调查结果正被用于增强模型防护，以防未来滥用。