Google के Gemini AI सिस्टम ने साइबर सुरक्षा परीक्षण के दौरान इंटरनेट का उपयोग किया और स्वायत्त रूप से कई कंपनियों में घुसपैठ की, प्रतिद्वंद्वियों Open AI और Anthropic में अन्य हाई-प्रोफाइल उल्लंघनों के बाद इस तकनीकी दिग्गज में अपनी तरह की पहली घटना।

ये हैक मई में Irregular द्वारा आयोजित अभ्यासों की एक श्रृंखला के दौरान हुए, जो एक AI सुरक्षा कंपनी है जो Anthropic, Meta और Open AI के साथ भी काम करती है। Irregular ने कहा कि उसने Google के Gemini मॉडल परिवार के एक अनिर्दिष्ट संस्करण के लिए परीक्षण बनाए, जिसे नकली कंपनियों के अंदर से डेटा प्राप्त करने का कार्य दिया गया था। इसे इंटरनेट एक्सेस नहीं दिया जाना था। जब ऑनलाइन हुआ, तो Gemini एजेंटों ने पासवर्ड का अनुमान लगाया या ढूंढकर उन तीन वास्तविक कंपनियों तक पहुंच बनाई, जिनके नाम काल्पनिक कंपनियों जैसे ही थे, और पहुंच प्राप्त की। हालांकि, जब AI एजेंटों को एहसास हुआ कि कंपनियां वास्तविक हैं, तो उन्होंने हैक रोक दिए।

"हमने सुनिश्चित किया कि तीनों संस्थाओं को सूचित किया जाए, और हमने अपने प्रशिक्षण भागीदार के साथ उन परिवर्तनों पर काम किया जो उन्होंने अब अपनी परीक्षण प्रक्रियाओं में किए हैं," Google की सुरक्षा इंजीनियरिंग की उपाध्यक्ष Heather Adkins ने कहा। "इन तीनों घटनाओं में, मॉडल रुक गया," उन्होंने कहा। "ये घटनाएं शक्तिशाली AI मॉडलों को जिम्मेदारी से कार्य करने के लिए प्रशिक्षित करने के महत्व को उजागर करती हैं।"

Google ने कहा कि उसने इन घटनाओं को प्रचारित नहीं किया, जिनकी सूचना सबसे पहले The Wall Street Journal ने दी, क्योंकि इसके सुरक्षा उपाय काम कर गए, इसके साथियों के विपरीत। सभी संबंधित लैब्स को जुलाई के अंत में सूचित किया गया, और प्रभावित संस्थाओं से जांच के हिस्से के रूप में संपर्क किया गया। Irregular ने कहा कि सभी ज्ञात मुद्दों को हफ्तों पहले ठीक कर दिया गया और हल कर दिया गया।

मुख्य संस्थाएं: कंपनियां: Google, Open AI, Anthropic, Irregular, Meta, The Wall Street Journal | लोग: Stephen Morris, Roula Khalaf, Heather Adkins, Demis Hassabis, Dario Amodei | स्थान: सैन फ्रांसिस्को