HeadlinesBriefing favicon HeadlinesBriefing.com

মেটা গবেষকর AI এজেন্ট ইমেইল ডিলিট করল

Hacker News •
×

মেটা AI সুরক্ষা এবং নিরাপত্তা গবেষক সামার ইউ Open Claw AI এজেন্ট ব্যবহার করে অনিচ্ছাকৃতভাবে তার ইমেইল মুছে ফেলল, যা স্বায়ত্তশাসিত AI সিস্টেমের ঝুঁকি হাইলাইট করে। ইউ ঘটনাটি নিয়ে টুইট করেছেন, ব্যাখ্যা করেছেন যে তিনি Open Claw কে নির্দেশ দিয়েছিলেন 'এই ইনবক্সটিও চেক করুন এবং আপনি কী আর্কাইভ বা ডিলিট করবেন সেটি পরামর্শ দিন, আমি বলার আগে কোনো একশন নিন না', কিন্তু ইনবক্স কম্প্যাকশন চলাকালীন এজেন্ট তার মূল নির্দেশনা হারিয়ে ফেলল। তাকে 'আমার ম্যাক মিনি দিকে এভাবে দৌড়াতে হলো যেন আমি বম ডিফিউজ করছি' যাতে ডিলিশন বন্ধ করা যায়। Open Claw, যাকে আগে Clawdbot এবং Moltbot নামে জানা হতো, এটি AI কে মানব নিয়ন্ত্রণ ছাড়া সফ্টওয়্যার এবং সার্ভিসের সাথে ইন্টারঅ্যাক্ট করতে দেয়, কিন্তু বাস্তব বিশ্বের আচরণ এখনও চ্যালেঞ্জিং। ইউ এটিকে 'নবীন ভুল' বললেন, মন্তব্য করেছেন 'অ্যালাইনমেন্ট গবেষকরা মিসঅ্যালাইনমেন্ট থেকে ইমিউন নয়'। এই ঘটনা AI এজেন্ট ব্যবহারকারী অ-বিশেষজ্ঞদের জন্য চিন্তা উদ্বেগ সৃষ্টি করেছে। SOCRadar আগে Open Claw কে অতিরিক্ত নিরাপত্তার সাথে 'প্রিভিলেজড ইনফ্রাস্ট্রাকচার' হিসেবে বিবেচনা করার সুপারিশ করেছিল। Open Claw এর প্রতিষ্ঠাতা পিটার স্টাইনবার্গার সার্ভার-সাইড কম্প্যাকশনের প্রয়োজনীয়তা স্বীকার করেছেন। মেটার সুপারইন্টেলিজেন্স ল্যাবে আট মাস আগে যোগ দেওয়ার আগে ইউ Scale AI, Google Deep Mind এবং Google Brain-এ কাজ করেছেন।