HeadlinesBriefing favicon HeadlinesBriefing.com

人类能避免AI末日:从核历史吸取的教训

New York Times Top Stories •
×

编辑委员会论述称,人类在最初的恐惧后成功约束了核技术,为治理人工智能提供了蓝图。就像哈里·杜鲁门总统在20世纪40年代末面临核技术既能毁灭也能繁荣的双重潜力,如今政策制定者面临着与AI类似的两难困境。突出的声音警告存在性风险,包括自主行动的AI代理和关键的"对齐"问题——确保AI优先考虑人类价值。领先公司的高管,包括Anthropic的Dario Amodei,已呼吁减缓发展。该文章强调,政府监管而非科技公司的自律监管,是管理强大技术的已验证模式。历史表明,持续的、刻意的努力可以降低危险,AI安全今天同样需要这种合作。