HeadlinesBriefing favicon HeadlinesBriefing.com

AI যুক্তি কীভাবে পুনরায় চালানো ও উন্মোচন করা যায়

ByteByteGo •
×

আধুনিক AI মডেলগুলি চূড়ান্ত উত্তর প্রদানের আগে বিস্তৃত অন্তর্ণদেহী যুক্তি উত্পন্ন করে। এই "ভাবনা" প্রক্রিয়াটি মধ্যগ্রহীয় অনুমানগুলি, টুল আউটপুট এবং ব্যবহারকারী ডেটা ধারণ করে, যা এটিকে পরস্পরে পরিশোধিত আউটপুটের তুলনায় উল্লেখযোগ্যভাবে ঘন হয়। অধিকাংশ প্রধান প্রদানকারীরা এই ট্রেসটি রাখে, কারণ দুটি কারণে: বাণিজ্যিকভাবে, প্রতিযোগীরা এটি ব্যবহার করে সস্তা অনুকরণীয় প্রশিক্ষণ করতে পারে, এবং প্রযুক্তিগতভাবে, পুরো যুক্তি উন্মোচন করা ব্যবহারকারীর সংবেদনশীল তথ্য উন্মোচন করতে পারে। ২০২৬ মাসের আগস্টে, MATS Research, ELLIS Institute Tübingen এবং Max Planck Institute for Intelligent Systems এর গবেষকরা একটি Vulnerability প্রমাণ করেছেন। তারা দেখিয়েছেন যে Anthropic, OpenAI এবং Google দ্বারা প্রদান করা এনক্রিপ্টেড যুক্তি ব্লকগুলি একই পরিবারের একটি সস্তা মডেলে পুনরায় চালানো যায়। যখন পুনরায় চালানো হয়, সেই সস্তা মডেলটি লুকানো যুক্তি টেক্সট-প্লেইন হিসেবে প্রিন্ট করে, প্রত্যক্ষভাবে মূল মডেলের চিন্তাগুলি চুরি খেয়ে যায়। এই ব্যাহতির পদ্ধতি মসৃণ মডেলকে সম্পূর্ণ থ্রি চেইন জেনারেট করতে বাধ্য করে। যাচাই প্রমাণ করেছে যে পুনরায় চালানো আউটপুট মূল লুকানো প্রক্রিয়ার সাথে মেলে। এই ব্যাহতি কয়েকটি প্রদানকারীকে প্রভাবিত করে, যা বর্তমানে যুক্তি ব্লকগুলির জন্য এনক্রিপশনের পদ্ধতিগুলি পর্যাপ্ত নয় বলে প্রকাশ করে। গবেষকরা এই পুনরায় চালানোকে সক্ষম করার জন্য চারটি প্রধান আক্রমণ ভেক্টর চিহ্নিত করেছেন। সমগ্রিক সেশন লগগুলির একটি স্ক্যান এই সমস্যার প্রচলিততা নিশ্চিত করেছে। প্রস্তাবিত ঠিক করার উপায় রিপ্লে মেকানিজম সম্পাদন করা অন্তর্ভুক্ত করে, যা এখনও একটি মৌলিক সীমা রয়ে গেছে যে মডেলের উপযোগ বজায় রেখে সত্যিকারের মত যুক্তি কত পর্যন্ত সুরক্ষিত রাখা যায়। এই ফলাফলগুলি AI-এর গোপনীয়তায় একটি আলোকিত কমান হাইলাইট করে, যা দেখায় যে এনক্রিপ্টেড ব্লকগুলি নির্ধারিত রিপ্লে আক্রমণের বিরুদ্ধে গোপনীয়তা নিশ্চিত করে না। এটি সংবেদনশীল ডেটা হ্যান্ডল করে এমন এপ্লিকেশনগুলির জন্য এক বড় ঝুঁকি তৈরি করে, কারণ গোপন চিন্তাগুলি বের করা এবং উন্মোচন করা সম্ভব। গবেষণা ভবিষ্যৎ মডেল ডিজাইনে অানুগ্রহিক সুরক্ষা ব্যবস্থা প্রয়োজনীয়তা উজ্জীবিত করে যাতে স্বয়ংক্রিয় যুক্তি বের করা রোধ করা যায়।