আপনি যদি আপনার AI এজেন্টের জন্য অত্যাধুনিক সাশ্রয়িতা নিয়ে আগ্রহী হন, আমরা একসাথে কাজ করতে চাইব! যোগাযোগ করুন: [email protected]। বাস্তব জগতে এজেন্ট স্থাপন করার সময়, আমরা চেয়েছিলাম তারা দ্রুত সাড়া দিক এবং সাশ্রয়ী হোক। আমরা লক্ষ্য করেছি যে এজেন্টরা টুল কল পরিচালনা করতে সময় ও টোকেন ব্যয় করে, তাই আমরা Unreal Agent তৈরি করেছি একটি হারনেস সহ যা টুল-ব্যবস্থাপনার ওভারহেড কমায়। হারনেসটি টুল কলগুলো অ্যাসিঙ্ক্রোনাসভাবে পরিচালনা করে, মডেলকে অপেক্ষা, পোল ও হার্টবিট থেকে মুক্তি দেয়। এটি ব্যবহারকারীদের টুল কলের জন্য অপেক্ষা না করে এজেন্টকে পরিচালনা করার সুযোগ দেয়, এবং মডেল কলের মধ্যে আরও উপকারী টুল কাজ শিডিউল করে। বর্তমান সংস্করণ বাস্তব ওয়ার্কলোড ও বেঞ্চমার্কে Codex-এর তুলনায় ৪০% পর্যন্ত এবং Pi-এর তুলনায় ২০% পর্যন্ত খরচ সাশ্রয় করে।

আপনি যদি এজেন্ট-প্রথম পণ্য তৈরি করেন, কোনো গোল্ডেন পাথ নেই। বড় ব্র্যান্ডের SDK-তে আপস থাকে: Claude-এর Agent SDK-এর মতো CLI-ভিত্তিক SDK স্থানীয় সেশন ও সাবপ্রসেস ধরে নেয়, যার জন্য কাস্টম লাইফসাইকল ব্যবস্থাপনা প্রয়োজন। অন্য প্রোভাইডার সমর্থন করলে সামঞ্জস্যতার কাজ বাড়ে। ভারী নির্ভরতা রক্ষণাবেক্ষণ ও সাপ্লাই-চেইন ঝুঁকি বাড়ায়। হারনেস হুকের মাধ্যমে নিরাপত্তা ও অনুমোদন নির্ধারক স্যান্ডবক্স সীমাবদ্ধতার চেয়ে কম মজবুত হয়। আমরা এমন হারনেসও চেয়েছিলাম যা বিলম্ব ছাড়াই ব্যবহারকারীর নির্দেশনা গ্রহণ করে এবং অতিরিক্ত জ্ঞানীয় বোঝা ছাড়াই ভিন্নধর্মী টুল কল সামলায়। উদাহরণস্বরূপ, কোড অন্বেষণ ও সমান্তরালে ওয়েব অনুসন্ধান করার সময় একটি ডেভ এনভায়রনমেন্ট সেটআপ শুরু করা, টোকেন ট্যাক্স ছাড়াই। প্রতিটি টুল কল "ইন-প্রোগ্রেস" অবস্থায় একটি ইভেন্ট-লগ রেকর্ড যোগ করে, যা পটভূমিতে চলতে থাকে; শেষ হলে, আমরা ফলাফল যোগ করি এবং একটি LLM কল করি। ক্যাশ না ভেঙে এটি কাজ করানো একটি প্রকৌশল চ্যালেঞ্জ ছিল।

Unreal Agent কম মডেল টার্ন ও ইনপুট টোকেনে একই ফলাফল অর্জন করে। খরচ সাশ্রয় আসে ন্যূনতম হারনেস ফুটপ্রিন্ট, টোকেন-অপ্টিমাইজড টুল ফলাফল, কোনো সাব-এজেন্ট নেই, এবং প্রতি মডেল টার্নে বেশি টুল কাজ থেকে। অ্যাসিঙ্ক্রোনাস টুল-কলিং মডেল প্রতি টার্নে আরও ভারী টুল কলের সুযোগ দেয়, পোল বা অপেক্ষায় টোকেন নষ্ট না করে। আমরা Unreal Agent বাস্তব উৎপাদন ওয়ার্কফ্লোর জন্য তৈরি করেছি, এবং এটি বেঞ্চমার্কেও ভালো দেখায়।

মূল সত্তা: কোম্পানি: Unreal Labs, Codex, Pi, Claude