OpenAI与波兰国家研究所NASK已签署协议,探索在AI安全、安保及技术研究方面开展合作。此次合作将汇聚双方机构的专业力量,以更好地理解新兴风险、加强防护措施,并探索先进AI如何助力构建更加安全、更具韧性的数字生态系统。
随着AI系统能力不断增强,开发者与公共研究机构之间的国际合作将至关重要。OpenAI此前已与美国超级智能先进标准与创新中心(CAISSI)、英国AI安全研究所(AISI)及其他公共研究机构开展合作,这些工作已有助于加强防护措施、发现并修复AI智能体中的安全漏洞,并推进前沿AI安全。
根据协议,作为波兰人工智能安全研究所(AISI)的NASK AI安全研究中心将与OpenAI合作,研究如何评估能力日益增强的AI系统、识别潜在漏洞并加强防护措施。OpenAI呼吁美国与全球各国合作,共同制定前沿AI的国际技术标准。关于能力评估、风险评估、安全措施测试和事件报告的通用方法,有助于各国比较证据,并应对跨境风险。
该协议还建立在OpenAI与波兰网络安全防御方既有合作的基础之上。今年7月,隶属于NASK的CERT Polska通过Daybreak获得了OpenAI具备网络能力的模型使用权限。该团队借助OpenAI模型协助发现了MikroTik RouterOS中的六个漏洞,其中包括可被组合利用、在无需身份验证的情况下控制受影响设备的缺陷。厂商已发布修复程序,CERT Polska确认这些修复程序阻止了其所观察到的攻击。
来源: OpenAI Blog · 由HeadlinesBriefing整理摘要