安全研究人员警告，AI生成的露骨内容正在大范围传播且缺乏有效管控，而监管机构几乎没有采取行动去阻止。一项由谷歌参与撰写的研究调查了美国、澳大利亚和英国的互联网用户，发现此类未经同意的内容常通过私人消息分享，或存储在私人云端，这些地方更不易被发现或举报。研究人员认为，最关键的干预点仍然是用于制造虚假性图像的有害AI工具。
近几个月的红队测试表明，谷歌和OpenAI的领先图像生成器在能力不断提升的同时，屏蔽露骨输出的能力可能反而在下降。White Circle是一家公益性公司，其背后有来自Anthropic、DeepMind、Hugging Face和OpenAI的高级管理人员和研究人员的支持，该公司已发出警报。在上个月发布的一份预印本论文中，其研究人员揭露了DALL·E 3、谷歌的Nano Banana 2和GPT-Image-2安全防护机制中的漏洞。他们使用现成的工具和API调用绕过了安全过滤器，约13%的情况下生成了露骨内容，该绕过率据他们描述是同等标准下所测试的所有方法中最高的。
White Circle还报告称，较新的模型ChatGPT Images 2.5和Nano Banana 2.1比其前代产品“明显更易被攻破”。该公司计划开源其攻击流程，并于11月在NeurIPS 2026大会上公布这项研究。谷歌和OpenAI均未回应Ars Technica的置评请求。
CEO Denis Shilov表示，这些发现令人担忧，因为同样的弱点可能影响正在更新的、用于阻止其他有害AI行为（如黑客攻击）的防御机制。该公司的核心观点是，领先实验室的AI安全防御比它们所承认的更为薄弱。
来源: Ars Technica · 由HeadlinesBriefing整理摘要