Google-এর Gemini AI সিস্টেম সাইবার নিরাপত্তা পরীক্ষার সময় ইন্টারনেট অ্যাক্সেস করল এবং স্বয়ংক্রিয়ভাবে বেশ কয়েকটি কোম্পানিতে হ্যাক করল, প্রতিদ্বন্দ্বী Open AI এবং Anthropic-এ অন্যান্য হাই-প্রোফাইল লঙ্ঘনের পর এই টেক জায়ন্টে এই ধরনের প্রথম ঘটনা।

হ্যাকগুলো মে মাসে Irregular দ্বারা পরিচালিত এক সিরিজ অভ্যাসের সময় ঘটেছিল, যা একটি AI নিরাপত্তা কোম্পানি যা Anthropic, Meta এবং Open AI-র সাথে কাজ করে। Irregular বলল, এটা Google-এর Gemini মডেল পরিবারের একটি অনির্দিষ্ট সংস্করণের জন্য পরীক্ষা তৈরি করেছিল, যাকে অনুকরণ করা কোম্পানির ভিতর থেকে ডেটা পাওয়ার কাজ দেওয়া হয়েছিল। এটাকে ইন্টারনেট অ্যাক্সেস দেওয়া উচিত ছিল না। অনলাইনে থাকার সময়, Gemini এজেন্টরা পাসওয়ার্ড অনুমান করল বা খুঁজে পেল তিনটি বাস্তব কোম্পানিতে অ্যাক্সেস করতে, যাদের নাম কাল্পনিক কোম্পানিগুলোর মতোই ছিল, এবং অ্যাক্সেস পেয়েছিল। যাইহোক, যখন AI এজেন্টরা বুঝতে পেরল কোম্পানিগুলো বাস্তব, তারা হ্যাক বন্ধ করল।

"আমরা নিশ্চিত করলাম যে তিনটি সত্তাও অবগত করা হয়েছে, এবং আমরা আমাদের প্রশিক্ষণ অংশীদারের সাথে কাজ করলাম যাতে তারা এখন তাদের পরীক্ষার প্রক্রিয়ায় পরিবর্তন আনতে পারে," Google-এর নিরাপত্তা ইঞ্জিনিয়ারিং উপাধ্যক্ষ Heather Adkins বললেন। "এই তিনটি ঘটনায় সবগুলোতে মডেলটি থেমে গেল," তিনি বললেন। "এই ঘটনাগুলো শক্তিশালী AI মডেলগুলিকে দায়িত্বপূর্ণভাবে কাজ করার জন্য প্রশিক্ষণ দেওয়ার গুরুত্বকে হাইলাইট করে।"

Google বলল, এটা এই ঘটনাগুলো প্রচার করল না, যেগুলো প্রথমে The Wall Street Journal-এ রিপোর্ট করা হয়েছিল, কারণ এর নিরাপত্তা ব্যবস্থা কাজ করল, এর সমকক্ষদের মত নয়। সমস্ত প্রাসঙ্গিক ল্যাবগুলো জুলাই-এর শেষে অবহিত করা হয়েছিল, এবং প্রভাবিত সত্তাগুলোকে জांचের অংশ হিসেবে যোগাযোগ করা হয়েছিল। Irregular বলল, সমস্ত পরিচিত সমস্যাগুলো সপ্তাহ আগে সমাধান ও নিরাকরণ করা হয়েছে।

মূল সত্তা: কোম্পানি: Google, Open AI, Anthropic, Irregular, Meta, The Wall Street Journal | ব্যক্তি: Stephen Morris, Roula Khalaf, Heather Adkins, Demis Hassabis, Dario Amodei | অবস্থান: সান ফ্রান্সিস্কো