警报关于失控的代理忽略了真正的风险：遵循创作者指令的代理。真正的危险不在于不可预测的AI，而在于完美执行有害指令的AI。随着自主系统能力的增长，重点必须从防止故障转向确保与伦理意图的对齐。对抗危险AI的最好方法不是限制，而是构建旨在监控、挑战和纠正其他AI的AI系统——创建一个分层保障，其中智能监管智能。这种方法承认AI将被用于善用和恶用，最有效的对策不是阻止其发展，而是在技术内部内嵌问责制。通过开发能够审计、质疑和覆盖有害指令的AI，我们创造了一个不易被滥用的自我调节生态系统。目标不是消除风险，而是通过智能监督来管理风险——将AI最大的优势，其精确性，转化为其最大的保障。
来源: Wall Street Journal US Business · 由HeadlinesBriefing整理摘要