وصل نظام Gemini AI من Google إلى الإنترنت واخترق ذاتياً عدة شركات أثناء اختبارات الأمن السيبراني، وهي أول حادثة من نوعها في عملاق التكنولوجيا هذا بعد خروقات بارزة أخرى في منافسيه Open AI و Anthropic.

حدثت عمليات الاختراق خلال سلسلة من التدريبات في مايو أجرتها شركة Irregular، وهي شركة أمن ذكاء اصطناعي تعمل أيضاً مع Anthropic و Meta و Open AI. قالت Irregular إنها أنشأت اختبارات لإصدار غير محدد من عائلة نماذج Gemini من Google، والتي كُلفت بالحصول على بيانات من داخل شركات محاكاة. لم يكن من المفترض منحها الوصول إلى الإنترنت. عندما اتصلت بالإنترنت، خمنت عوامل Gemini أو وجدت كلمات مرور للوصول إلى ثلاث شركات حقيقية، تشارك نفس الأسماء مع الشركات الخيالية، وحصلت على الوصول. ومع ذلك، عندما أدركت عوامل الذكاء الاصطناعي أن الشركات حقيقية، أوقفت عمليات الاختراق.

"تأكدنا من إبلاغ الكيانات الثلاث، وعملنا مع شريك التدريب لدينا على التغييرات التي أجروها الآن على عمليات الاختبار الخاصة بهم"، قالت Heather Adkins، نائبة رئيس هندسة الأمن في Google. "في جميع هذه الحالات الثلاث، توقف النموذج"، قالت. "تسلط هذه الأحداث الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية للتصرف بمسؤولية."

قالت Google إنها لم تعلن عن الحوادث، التي تم الإبلاغ عنها أولاً من قبل The Wall Street Journal، لأن تدابير السلامة لديها نجحت، على عكس نظرائها. تم إخطار جميع المختبرات ذات الصلة في أواخر يوليو، وتم الاتصال بالكيانات المتأثرة كجزء من التحقيق. قالت Irregular إن جميع المشكلات المعروفة تم علاجها وحلها منذ أسابيع.

الكيانات الرئيسية: الشركات: Google، Open AI، Anthropic، Irregular، Meta، The Wall Street Journal | الأشخاص: Stephen Morris، Roula Khalaf، Heather Adkins، Demis Hassabis، Dario Amodei | المواقع: سان فرانسيسكو