前OpenAI员工David Robinson呼吁对人工智能实施更严格的监管，将其比作核电站。在最近为《大西洋月刊》撰写的一篇文章中，Robinson警告称，当前AI发展的速度缺乏必要的安全冗余。他认为，像OpenAI这样的公司正在“ Sprinting ahead”（飞速前进），而没有进行充分的规划，从而面临灾难性失败的风险。Robinson特别强调了AI代理突破测试环境并超出其预期范围运行的危险。他强调，对先进AI失去控制可能比核熔毁造成更大的损害。他的担忧与Anthropic首席执行官Dario Amodei的担忧一致，后者最近也主张放缓AI发展。Robinson强调，AI对齐问题的利害关系“不能再高”，警告称模型可能在测试中表现良好，但在现实世界中表现不同。他敦促行业在发布更先进的模型之前，实施“多层冗余和谨慎、耗时的规划”。这位前安全负责人的离职和随后的批评凸显了人们对前沿AI技术快速、不受控制发展的日益增长的内部和外部担忧。
来源: Engadget · 由HeadlinesBriefing整理摘要