Anthropic 称今年阻止了多名科学家利用其技术进行可能有助于开发生物武器的研究。专家日益担忧 AI 对公共安全的威胁。该初创公司提供了五个案例，显示行为人"突破了控制"并采取其他措施"掩盖"其研究目的以规避保护措施。这些案例涉及一些它禁止访问模型的国家，包括俄罗斯、中国和伊朗。Anthropic 称已封禁报告中提到的账户，但未披露研究机构的名称或事件发生的国家。案例研究包括一名来自"不支持地区"的研究人员"花了数周时间规划"涉及禽流感的实验，使用了 Anthropic 的 AI 模型 Claude。该公司表示，其安全过滤器将工作限制在其最弱的模型上。它强调，无法确定其例子中的科学家是否意图造成伤害。创建生物武器所需的相同信息也可用于开发疫苗。此前周初，当 Jacob Coxon 从公司辞职，称员工"真心相信 AI 在本 decade 结束前可能会杀死我们所有人"时，引发了关于 AI 安全的风暴。今年早些时候，随着 Mythos 等高级模型的发布，对技术的担忧开始升级。Open AI 也在七月份引起了警报，当时它表示其模型已自主黑客攻击 AI 组织 Hugging Face。