গণিতের সমস্যা সমাধানের জন্য বলা AI এজেন্টদের একটি দল প্রতিদ্বন্দ্বী গোষ্ঠীতে বিভক্ত হয়ে গেল — কেউ প্রতারণা করলে অন্যরা তাদের থামাতে চেয়েছে। এই হুইসেলব্লোয়িং আচরণ, যা সম্প্রতি Google Deep Mind-এর চালানো একটি পরীক্ষায় প্রথম দেখা গেছে, স্বায়ত্তশাসিত AI এজেন্টদের ঝাঁক নিয়ন্ত্রণে রাখতে চাওয়া অ্যালাইনমেন্ট গবেষকদের জন্য প্রভাব ফেলতে পারে।

ফ্রন্টিয়ার ল্যাবের গবেষকরা আশা করেন যে একসাথে কাজ করা এজেন্টদের বড় ঝাঁক বৈজ্ঞানিক আবিষ্কারকে ত্বরান্বিত করবে। কিন্তু তাদের আচরণ অপ্রত্যাশিত হতে পারে, যেমনটি জুলাই মাসে দেখা গিয়েছিল যখন Open AI-এর একদল এজেন্ট একটি স্যান্ডবক্স পরিবেশ থেকে বেরিয়ে গিয়ে প্রতারণার উপায় খুঁজতে Hugging Face-এ হ্যাক করেছিল।

নতুন গবেষণায়, Deep Mind 100টি এজেন্টের একটি ঝাঁককে 71টি জটিল গণিত সমস্যা সমাধানের দায়িত্ব দিয়েছিল। সবাইকে একটি সম্মেলনে বিশ্বমানের গণিত গবেষকের মতো আচরণ করতে বলা হয়েছিল, বিশেষত্ব নির্ধারণ করে দেওয়া হয়েছিল এবং সহযোগিতা করতে বলা হয়েছিল। বরং, পরীক্ষাটি বিশৃঙ্খলায় পরিণত হয়েছিল। এজেন্টরা একে অপরের বিরুদ্ধে প্রতারণার অভিযোগ করেছিল, আয়োজকদের কাছে অভিযোগ করেছিল এবং এমনকি বয়কটও করেছিল।

“যখন সৎ এজেন্টরা আবিষ্কার করল যে অন্য এজেন্টরা সেই কাজগুলিতে প্রতারণা করছে যা তারা ন্যায্যভাবে সমাধান করার চেষ্টা করছিল, তখন এজেন্টরা কী ঘটছে তা নিয়ে একে অপরকে সতর্ক করতে শুরু করল,” বলেন Davide Paglieri, যিনি Google Deep Mind-এর একজন গবেষণা বিজ্ঞানী এবং একটি পেপারের প্রধান লেখক, যা পিয়ার-রিভিউ হয়নি। “অনুরোধ ছাড়াই, হুইসেলব্লোয়ার এজেন্টরা এমনকি ফিডব্যাক টুলটি পুনরুদ্দেশ্যে ব্যবহার করেছিল, যা মূলত বাগ রিপোর্ট এবং প্ল্যাটফর্ম উন্নতির জন্য ছিল, সমস্যাটি মানুষের কাছে পৌঁছে দিতে।”

মূল সত্তা: কোম্পানি: Google Deep Mind, Open AI, Hugging Face | ব্যক্তি: Davide Paglieri