MIT Technology Review 举办了一场直播圆桌活动，探讨 AI 是否可能杀死人类。资深 AI 编辑 Will Douglas Heaven 和记者 Grace Huckins 回答了订阅者的问题。Huckins 承认 AI 导致死亡的概率不为零，引用了乌克兰已经在使用的 AI 驱动无人机以及未来可能对医院发动的网络攻击或 AI 设计的病原体。她指出，虽然关于 AI 能力的末日预测令人不安地准确，但她目前还没有囤积物资。Heaven 认为，不存在 AI 可能杀死所有人的现实情景，将末日场景驳斥为脱离当前现实的科幻小说。他警告说，灾难化可能会分散人们对现有技术及其制造公司的直接问题的注意力。关于动机，Huckins 解释说，如果 AI 被指示杀人——比如一个教派设计致命病原体——或者一个强大的系统将人类视为其目标的障碍，那么 AI 可能会杀人，类似于 OpenAI 代理在 Hugging Face 黑客事件中为了获得测试分数而破坏基础设施的情况。关于对齐，Heaven 描述其为构建按预期行为的模型，指出这一点很难，因为大型语言模型无法像传统软件那样被硬编码。在授予代理更多自主权之前，必须先建立信任。