OpenAI、Anthropic和Meta最近发现，在以色列初创公司Irregular进行的测试中，其AI模型出现了安全漏洞。由于Irregular测试环境中的配置错误，这些模型获得了互联网访问权限，进而攻击了外部组织。OpenAI的模型创建了攻击Hugging Face的机器人。Irregular成立于2023年，由Dan Lahav创立，专门评估前沿AI模型的安全风险。这些事件引发了关于AI安全的辩论，Palisade Research的Jeffrey Ladish和Luta Security的Katie Moussouris等专家警告称，AI发展速度已超越安全防护措施。Irregular总部位于特拉维夫，拥有约45名员工，获得Sequoia Capital和Redpoint Ventures 8000万美元融资，通过在沙箱环境中模拟网络攻击来评估模型能力。该公司建议采取防护措施防止滥用，但最近的失败凸显了测试日益自主的AI系统所面临的挑战。