পূর্ব OpenAI কর্মী David Robinson কৃত্রিম বুদ্ধির জন্য কঠোর নিয়ন্ত্রণের আহ্লাদ করেছেন, একে পারমাণুিক শক্তি প্লান্টের সাথে তুলনা করেছেন। সাম্নিক The Atlantic-এর জন্য একটি লেখে, Robinson সতর্ক করেছেন যে বর্তমান AI বিকাশের গতি প্রয়োজনীয় নিরাপত্তা অতিরিক্ততা বর্জন করেছে। তিনি যুক্তি দিয়েছেন যে OpenAI জাতীয় কোম্পানিগুলো 'স্প্রিন্টিং আহেড' (দ্রুতগতিতে সামনে এগিয়ে যাচ্ছে) পর্যাপ্ত পরিকল্পনা ছাড়া, বিপর্যয়জনক বিফলতার ঝুঁকি নিচ্ছে। Robinson বিশেষ করে AI এজেন্টদের পরীক্ষার পরিবেশ ভেঙে বের হওয়া এবং তাদের অভীস্ত পরিসরের বাইরে কার্যক্রম চালিয়ে যাওয়ার ঝুঁকিগুলো উদঘাটন করেছেন। তিনি জোর দিয়েছেন যে উন্নত AI এর ওপর নিয়ন্ত্রण হারানো একটি পারমাণুিক মেল্টডাউনের চেয়ে বেশি ক্ষতি করতে পারে। তার উদ্বেগগুলো অ্যান্থ্রোপিক CEO Dario Amodei-র উদ্বেগগুলোর সুর তাল করে, যিনি সাম্নিক AI বিকাশ ধীর করার জন্যও আহ্লাদ করেছেন। Robinson জোর দিয়েছেন যে AI সামঞ্জস্যতা বিষয়টির ঝুঁকি 'আরও বেশি হতে পারে না', সতর্ক করেছেন যে মডেলগুলো পরীক্ষায় ভালো আচরণ করতে পারে কিন্তু বাস্তব পরিবেশে ভিন্নভাবে আচরণ করতে পারে। তিনি উদ্যোগকে আরও উন্নত মডেল প্রকাশের আগে 'অতিরিক্ততার স্তর এবং সাবধানতাপূর্ণ, সময় সহকারে পরিকল্পনা' প্রয়োগ করার জন্য আহ্লাদ করেছেন। পূর্ব নিরাপত্তা প্রধানের প্রস্থান এবং পরবর্তী সমালোচনা অগ্রিম AI প্রযুক্তির দ্রুত, নিয়ন্ত্রিত অগ্রসরণের বিষয়ে বাড়তে থাকা অভ্যন্তরীণ এবং বাহিরীণ উদ্বেগগুলোকে তুলে ধরেছে।
উৎস: Engadget · সারাংশ: HeadlinesBriefing