একটি AI এজেন্টকে প্রুফ-অফ-কনসেপ্ট থেকে নির্ভরযোগ্য, উৎপাদন-প্রস্তুত এন্টারপ্রাইজ ওয়ার্কফ্লোতে রূপান্তর করতে হলে তাকে স্কেলেবিলিটি, প্রতিক্রিয়াশীলতা ও ব্যয়-কার্যকারিতার মান পূরণ করতে হয়। এজেন্টের প্রয়োজন হয় কারণ ডেটা থেকে পাওয়া কথোপকথনমূলক অন্তর্দৃষ্টি প্রায়ই যথেষ্ট হয় না। LLM পরিকল্পনা করতে, যুক্তি দিতে ও কাজ করতে পারে, এবং এজেন্ট হলো LLM-এর "মস্তিষ্ক"-কে ঘিরে থাকা যৌক্তিক কাঠামো, যা টুল ব্যবহার করে, বাহ্যিক API-এর সঙ্গে যোগাযোগ করে, নিজের ভুল শুধরে নেয় এবং অন্যান্য এজেন্টের সঙ্গে সহযোগিতা করে।
এজেন্টিক সিস্টেম অসংখ্য উচ্চ-ফ্রিকোয়েন্সি সিদ্ধান্তের ওপর নির্ভর করে, যেমন পরবর্তী ধাপ কী হওয়া উচিত, কোন এজেন্ট সেটি সামলাবে, কোন টুল ব্যবহার করতে হবে, এবং ব্যবহারকারীকে উত্তর দেওয়ার জন্য পর্যাপ্ত প্রসঙ্গ আছে কি না। একটি বড় বিবর্তন হলো Type Safe-এর JEV-এর মতো কম-ব্যয়ের ক্যালিব্রেটেড সিদ্ধান্ত মডেলের আবির্ভাব, যা নির্ধারিত কাজের বোঝা LLM থেকে সরিয়ে নেয়, যাতে তারা গভীর যুক্তি ও সংশ্লেষণে মনোযোগ দিতে পারে। রিট্রিভালের মতোই, বৃহত্তর এজেন্টিক পরিমণ্ডল সরল একক-এজেন্ট লুপ থেকে সরে গিয়ে সুনিপুণভাবে নকশা করা মাল্টি-এজেন্ট ওয়ার্কফ্লো ও সীমাবদ্ধ স্থাপত্যের দিকে এগোচ্ছে।
নিবন্ধটি একজন চর্চাকারীর দৃষ্টিকোণ থেকে ছয়টি স্থাপত্য প্যাটার্নের গভীর বিশ্লেষণ উপস্থাপন করে, প্রতিটির কার্যপ্রণালী পরীক্ষা করে, এর ডেটা প্রবাহ চিত্রিত করে এবং LLM-এর কার্যকরী মেমোরি পরিচালনায় কনটেক্সট ইঞ্জিনিয়ারিংয়ের ভূমিকা ব্যাখ্যা করে। একটি এজেন্ট চারটি স্তম্ভ নিয়ে গঠিত: যুক্তি, টুল ও ক্রিয়াকলাপ সমন্বয়কারী মূল LLM, পরিকল্পনা ও নিয়ন্ত্রণ প্রবাহ, এবং মেমোরি।
উৎপাদন-প্রস্তুতির জন্য কনটেক্সট ইঞ্জিনিয়ারিং একটি মূল মানদণ্ড। এজেন্টের কনটেক্সট অত্যন্ত গতিশীল, কারণ প্রতিটি ক্রিয়ার সঙ্গে পর্যবেক্ষণ, ত্রুটি ও মধ্যবর্তী চিন্তা জমা হতে থাকে। সবকিছু প্রম্পটে যোগ করলে কনটেক্সট উইন্ডো ফুলে ওঠে, বিলম্ব ও ব্যয় বাড়ে, এবং LLM সূক্ষ্ম তথ্য হারিয়ে ফেলতে পারে। একটি মূল কৌশল হলো স্টেট প্রজেকশন, যা বর্তমান ওয়ার্কফ্লো ধাপের জন্য একান্ত প্রয়োজনীয় প্রসঙ্গটুকুই ইনজেক্ট করে।
উৎস: Towards Data Science · সারাংশ: HeadlinesBriefing