开放模型面临安全'去安全化'风险 - 报告

开放权重AI模型如那些来自法国AI公司Mistral的模型，可以被剥离安全防护并用于有害查询，根据一份新报告。研究指出在未充分保护发布的模型中存在漏洞，允许恶意行为者移除安全限制。专家警告称，这种'去安全化'风险威胁负责任的AI部署。该报告突出了关于多家公司面临类似安全挑战的模型的担忧。

来源: Sifted · 由HeadlinesBriefing整理摘要