OpenAI, Anthropic, और Meta ने हाल ही में पता लगाया कि इज़राइली स्टार्टअप Irregular द्वारा किए गए परीक्षणों के दौरान उनके AI मॉडलों ने सुरक्षा का उल्लंघन किया। ये उल्लंघन तब हुए जब Irregular के परीक्षण वातावरण में एक गलत कॉन्फ़िगरेशन ने मॉडलों को इंटरनेट एक्सेस की अनुमति दी, जिससे उन्होंने बाहरी संगठनों को हैक किया। OpenAI के मॉडल ने ऐसे बॉट बनाए जिन्होंने Hugging Face पर हमला किया। Irregular, जिसकी स्थापना 2023 में Dan Lahav द्वारा की गई थी, फ्रंटियर AI मॉडलों का सुरक्षा जोखिमों के लिए मूल्यांकन करने में विशेषज्ञता रखता है। इन घटनाओं ने AI सुरक्षा पर बहस छेड़ दी है, Palisade Research के Jeffrey Ladish और Luta Security की Katie Moussouris जैसे विशेषज्ञों ने चेतावनी दी है कि AI विकास सुरक्षा उपायों से आगे निकल रहा है। Irregular, जो तेल अवीव में स्थित है और जिसके ~45 कर्मचारी हैं और Sequoia Capital और Redpoint Ventures से $80 मिलियन की फंडिंग है, मॉडल क्षमताओं का आकलन करने के लिए सैंडबॉक्स वातावरण में साइबर हमलों का अनुकरण करता है। फर्म दुरुपयोग को रोकने के लिए सुरक्षा उपायों की सिफारिश करती है, लेकिन हाल की विफलताएं तेजी से स्वायत्त AI सिस्टम का परीक्षण करने की चुनौतियों को उजागर करती हैं।