AI团体正竞相应对未来模型可能帮助用户创建新型病毒或生物武器的风险， amid rising concerns that the technology's scientific capabilities will become the industry's next public-security threat. Anthropic, Open AI和Google Deep Mind正加大在生物风险测试、访问控制和其他保障措施上的工作，以限制先进AI系统的滥用，他们希望这些系统能加速药物发现，协助疾病研究并防止大流行。

这种安全推动反映了AI高管和生物安全专家日益增长的信念，即随着新模型变得更强大，生物学可能成为继网络安全之后需要被保护的下一个领域。

"化学生物领域几乎所有发生的事情都是双用途的"， said Dawn Bloxwich，她的团队负责审查和调查Google Deep Mind AI模型 across suspicious activity.

这些担忧在Anthropic的Mythos模型今年引发关于AI网络能力的警报后加剧，当时Open AI的模型自主入侵了AI团体Hugging Face。

"After this . . . we're anticipating a 'Mythos' moment for AI and Bio," said Jason Hausenloy， policy lead at the Center for AI Safety.

AI可能被恐怖组织或国家行为体利用来设计生物武器。从事生物风险研究的几个人指出，Aum Shinrikyo是一个在1995年日本东京实施恐怖袭击的邪教。