গত কয়েক সপ্তাহে দুটি ঘটনায় সশক্ত AI সিস্টেমের বাড়তি ঝুঁকি প্রকাশ পেয়েছে: Open AI-Hugging Face ঘটনা এবং আমাদের আসন্ন মডেল Astra গুরুত্বপূর্ণ সাইবার নিরাপত্তা ক্ষমতার সীমানা অতিক্রম করতে পারে এমন প্রমাণ যা আমাদের Preparedness Framework এর অধীনে পড়ে। এই বিকাশগুলি, যুক্ত দ্রুত অভ্যন্তরীণ গবেষণা অগ্রগতির সাথে, পর্যবেক্ষণ, সংগতি এবং সমন্বয় নিরাপত্তার জন্য সমস্ত প্রশিক্ষণ পর্যায়ে আরও জরুরি হয়ে ওঠে।
যেহেতু মডেলগুলি আরও ক্ষমতাশালী হয়ে ওঠে, ততটা তাদের সংশ্লিষ্ট ঝুঁকিও বাড়ে। আমরা অস্থায়ীভাবে স্কেলিং ধীর করেছি, যার মধ্যে রিফোর্সমেন্ট লার্নিং (RL) প্রশিক্ষণে দুই সপ্তাহের বিরতি অন্তর্ভুক্ত, যাতে গবেষণা পরিবেশকে শক্তিশালী করা যায়, রেড-টিম সিস্টেম তৈরি করা যায় এবং পর্যবেক্ষণ ক্ষেত্রকে বিস্তৃত করা যায়। আমাদের সবচেয়ে বড় ফ্রান্টিয়ার RL চালানো এখনও বিরত রয়েছে যখন আমরা নিরাপত্তা বাধ্যবাধকতা যাচাই করতে এবং সংগতির প্রমাণ তৈরি করতে ছোট স্কেলে প্রশিক্ষণ ও মূল্যায়ন করি।
আমরা এখন প্রশিক্ষণের সময়কালের পুরো জুড়ে সংগত সম্পন্ন আচরণের জন্য আরও শক্তিশালী প্রমাণের দরকার বোধ করি, যা চলমান গবেষণা ও মূল্যায়নগুলিতে ভিত্তি করে। আসন্ন মডেলগুলির থেকে আসা সংকেতগুলি স্পষ্টভাবে বলে যে আমরা বর্তমান Preparedness Framework এর বাইরে একটি বিস্তৃত দৃষ্টিভঙ্গির প্রয়োজন আছে। নিচে, আমরা গবেষণা প্রক্রিয়া ও অবকাঠামোতে পরিবর্তনগুলি বিস্তারিত করি, এবং এখনও চলছে এমন কাজগুলি সম্পর্কে বলি।
আমাদের পদ্ধতি তিনটি শক্তিশালী নিরাপত্তা উপায়ে ভিত্তি করে: পর্যবেক্ষণ, সংগতি এবং নিরাপত্তা। আমরা এগুলিকে গবেষণা ও স্থাপনার মধ্য দিয়ে প্রয়োগ করি, প্রতিটি মডেলের ক্ষমতা, পরিচালনা পরিবেশ এবং ঝুঁকি স্তরের জন্য এগুলিকে অভিযোজিত করি। যে মডেলগুলি শক্তিশালী সাইবার নিরাপত্তা ক্ষমতা অর্জন করছে, তাদের প্রশিক্ষণ ও মূল্যায়ন পরিবেশের নিরাপত্তা মানদণ্ড তোলার প্রয়োজন আছে।
উৎস: OpenAI Blog · সারাংশ: HeadlinesBriefing