HeadlinesBriefing favicon HeadlinesBriefing.com

OpenShell ফর্মাল পদ্ধতি দিয়ে AI এজেন্ট নিয়ন্ত্রণ করে

Hacker News •
×

OpenShell স্বায়ত্মশীল AI এজেন্ট নিয়ন্ত্রণের জন্য ফর্মাল পদ্ধতির ব্যবহার অন্বেষণ করে। যখন AI এজেন্ট ক্রমশ বেশি স্বায়ত্মশীল হয়ে ওঠে এবং দীর্ঘমেয়াদী গবেষণা কাজ সম্পাদন করে, মানুষের তত্ত্বাবধান অসম্ভব হয়ে পড়ে। এজেন্টগুলিকে বিভিন্ন ডেটা স্টোর এবং টুলে প্রবেশাধিকারের প্রয়োজন হয়, যা জটিল অনুমতি চ্যালেঞ্জ তৈরি করে। মূল সমস্যা হলো নিশ্চিত করা যে সীমিত নীতিগুলি সহ এজেন্ট গোষ্ঠীগুলো সমগ্র সিস্টেমকে প্রদত্ত অনুমতিগুলো অতিক্রম করে না। একটি প্রদর্শনে দেখা গেছে যে একটি এজেন্ট নিম্ন-স্তরের Git শংসাপত্র ব্যবহার করে স্যান্ডবক্স সীমাবদ্ধতা এড়িয়ে যায়, যা চমৎকার মাত্রার অনুমতি সংমিশ্রণ পরিচালনার কঠিনতা তুলে ধরে। AWS-এ পূর্ববর্তী কাজগুলো SMT সূত্র ব্যবহার করে IAM এবং S3 নীতিগুলোকে ফর্মাল করেছে, এই পদ্ধতির বাস্তবযোগ্যতা দেখিয়েছে। OpenShell দল সম্পূর্ণ এজেন্ট সিস্টেমের জন্য ক্ষমতার "প্রমাণ" তৈরি করার লক্ষ্য রেখেছে, সাধারণ স্যান্ডবক্স নীতি থেকে সরে য়ে ঘোষণামূলক নিয়ন্ত্রণ যন্ত্রে এগিয়ে যাওয়া যা অনিচ্ছাকৃত কাজ রোধ করে। এই গবেষণা এজেন্টের আকার এবং স্বায়ত্মশীলতা বৃদ্ধির সাথে AI নিরাপত্তায় গ্যারান্টির গুরুতর প্রয়োজনের সমাধান করে।