David Robinson，曾负责OpenAI安全透明工作的人员，因他认为公司的技术不够安全而辞职。他是罗德斯学者，曾担任拜登白宫顾问，当初加入OpenAI是因为他认为AI安全风险‘不合理’，但三年后改变了看法。他认为OpenAI缺乏防止灾难性风险所需的安全文化，他将潜在危害比作核熔毁，但后果更糟糕。他指出，尽管行业看似像初创公司却在构建危险系统，内部控制和冗余不足。Robinson指出，OpenAI、Hugging Face和Anthropic的公开安全报告显示了问题，但外部观察者可能高估了其安全严谨性。他区分了组织卓越、技术安全的可行性以及风险的正确比喻——如核能。Robinson坚持认为AI对齐不仅仅是工程问题。他的辞职突显了行业内日益增长的内部安全实践异议。
来源: New York Times Top Stories · 由HeadlinesBriefing整理摘要