AI正在改变网络安全的速度、规模和经济性。它可以帮助防御者发现并修复漏洞、检测入侵并应对攻击，但当AI系统超出预定边界运行时，同样的能力也可能被恶意行为者利用，并带来新的风险。OpenAI将此称为防御者的窗口期：在先进的网络攻击能力广泛普及之前，将先进AI交到防御者手中并加强防护的一段有限时间。
该公司正在发布一份关于赋能网络防御者的蓝图，它建立在此前的网络安全行动计划和前沿安全蓝图之上。OpenAI表示，其自身模型在错位和安全事件方面的经验表明，整个行业需要更强有力的保障措施和问责机制。该蓝图在三个领域为政府和行业提出了具体建议。
首先，它呼吁加强先进AI的安全性，包括明确保护前沿模型和智能体的责任、检测危险行为，以及维持可靠的关停控制。其次，它敦促通过为防御者配备先进工具、培训和技术支持，解决长期存在的薄弱环节，并投资保障关键服务安全、更换过时系统，从而使网络安全适应智能时代。第三，它提出通过加强政府评估和独立技术评估、统一事件报告要求，以及改进协调响应与恢复机制，构建具有韧性和适应能力的公共机构。
OpenAI指出，AI实验室有责任应对其系统带来的风险，并帮助加强社会的防御能力。它还表示，随着能力不断提升，政府也必须具备保护公众的专业知识、资源和权力。该公司鼓励政策制定者立即行动，建立保障措施、从经验中学习，并随着技术发展不断加强相关要求。
来源: OpenAI Blog · 由HeadlinesBriefing整理摘要