দায়িত্বশীল AI এজেন্ট গড়ে তোলার জন্য কেবল কার্যকরী কোড যথেষ্ট নয়। যদিও LLM অ্যাপ্লিকেশনের প্রোটোটাইপ দ্রুত তৈরি করতে পারে, তবে এদের এন্টারপ্রাইজ পরিবেশে স্থাপন করার জন্য শক্তিশালী গভর্ন্যান্স, নিরাপত্তা এবং পরীক্ষার ফ্রেমওয়ার্ক প্রয়োজন। ঐতিকারিক সফটওয়্যার নির্ধারিত যুক্তিতে অনুসরণ করে, কিন্তু AI এজেন্টগুলি সম্ভাব্য LLM-এর উপর নির্ভর করে যা জেলব্রেক, সাইকোফ্যান্সি বা অ্যান্ডারেক্ট ইনজেকশনের মাধ্যমে ম্যানিপুলেট করা যেতে পারে। এটি সমাধান করতে, এন্টারপ্রাইজগুলি অ-নির্ধারিত কোরের চারপাশে নির্ধারিত নিরাপত্তা রেল কাস্টিয়ার গভর্ন্যান্স ডিফেন্স ইন ডেপথ কৌশল গ্রহণ করতে হবে।
এই আর্টিকলটি HR পলিসি অ্যাসিস্ট্যান্ট ব্যবহার করে একটি উৎপাদন-প্রস্তুত এজেন্ট-ভিত্তিক RAG আর্কিটেক্চার অন্বেষণ করে। তিনজন ব্যবহারকারী পার্সোনা — অ্যাডমিন (acl_level=2), বব HR ম্যানেজার (acl_level=1), এবং অ্যালিস কর্মচারী (acl_level=0) — মাল্টি-লেভেল অ্যাক্সেস নিয়ন্ত্রণ প্রদর্শন করে। সিস্টেমে ইনজেকশন আক্রমণ ব্লক করে এমন একটি সেফটি প্রি-ফিল্টার, প্রশ্নগুলিকে স্বয়ংক্রিয়, পর্যবেক্ষিত বা HITL প্রয়োজন টিয়ারে শ্রেণিবিন্যস্ত করে এমন একটি পলিসি ইঞ্জিন, এবং ডকুমেন্ট এবং অ্যাকশন স্তরে অগ্রিমাল পরিষ্কার ACL প্রয়োগ করা অন্তর্ভুক্ত আছে।
অতিরিক্ত সুরক্ষা ব্যবস্থাগুলিতে ভেক্টর স্টোর চাঙ্কগুলির জন্য SHA-256 ঐক্য সত্যাপন অন্তর্ভুক্ত আছে, যা হেরফের করার সনাক্তকরণ রোধ করে, এবং অ্যান্ডারেক্ট প্রম্পট ইনজেকশন বিরোধী সেফটি পোস্ট-ফিল্টার। প্রতিটি ব্যবহারকারীর প্রশ্ন বিচ্ছিন্ন LLM কোরে পৌঁছানোর আগে বহু স্তরের যাচাইকরণ পায়, যা সংগঠনগত নীতিমালার সম্মতি নিশ্চিত করে এবং এন্টারপ্রাইজ AI স্থাপনায় নিরাপত্তা ঝুঁকি কমায়।
আর্কিটেক্চারটি জোর দেয় যে কার্যকরী AI এজেন্ট তৈরি করা সহজ, কিন্তু তাদের উৎপাদন-প্রস্তুত করার জন্য একটি ব্যাপক নিরাপত্তা অবকাঠামো প্রয়োজন।
গুরুত্বপূর্ণ এন্টিটিগুলি: মানুষ: অ্যাডমিন, বব, অ্যালিস
উৎস: Towards Data Science · সারাংশ: HeadlinesBriefing