HeadlinesBriefing favicon HeadlinesBriefing.com

Project HydraFusion: মাল্টি-মডেল অর্কেস্ট্রেশন

Hacker News •
×

হাতে থাকা কাজের জন্য ডেভেলপারদের সেরা মডেল প্রদান করা সর্বদা আমাদের লক্ষ্য ছিল। এই বছরের শুরুর দিকে, আমরা অটো মডেল নির্বাচন চালু করে এটি সহজ করেছি, যা আপনার কাজ পর্যালোচনা করে এবং সেই কাজের জন্য সবচেয়ে উপযুক্ত মডেলের সাথে মেলে। আজ, আমরা Project Hydra Fusion চালু করছি, একটি গবেষণা প্রিভিউ যা রানটাইম অর্কেস্ট্রেশনের মাধ্যমে ফ্রন্টিয়ার ইন্টেলিজেন্স প্রদান করে। এটি একটি সম্পূর্ণ এক্সিকিউশন প্ল্যান তৈরি করে, একাধিক প্রদানকারীর মডেল থেকে বেছে নিয়ে খসড়া, সমালোচনা এবং সংশোধন করে, অথবা আপনার কাজ সম্পূর্ণ করতে আরও শক্তিশালী মডেলে ক্যাসকেড করে।

Hydra Fusion স্থানীয়, ক্লাউড এবং যৌগিক মডেলের মধ্যে স্বয়ংক্রিয় শব্দার্থিক রাউটিং প্রদানের আমাদের সামগ্রিক কৌশলে একটি মূল ভূমিকা পালন করে। ডেভেলপারদের জন্য, সেই জটিলতা পর্দার আড়ালে থাকে: আপনি অন্য যেকোনো মডেলের মতো Hydra Fusion নির্বাচন করেন, এবং এটি প্রতিটি কাজের জন্য কর্মক্ষমতা, খরচ এবং লেটেন্সি ভারসাম্য বজায় রাখে এমন একটি ওয়ার্কফ্লো বেছে নেয়। Hydra Fusion ওয়ার্কফ্লো নির্বাচনকে একটি অপ্টিমাইজেশন সমস্যা হিসাবে বিবেচনা করে। এটি যুক্তি, কোড জেনারেশন, ডিবাগিং এবং টুল ব্যবহারের জন্য ক্ষমতা সংকেত ব্যবহার করে মানের বার পূরণের জন্য সবচেয়ে কার্যকর এক্সিকিউশন প্যাটার্ন নির্বাচন করে।

প্রতিটি অনুরোধের জন্য, Hydra Fusion বর্তমানে তিনটি এক্সিকিউশন প্যাটার্নের মধ্যে একটি বেছে নেয়: Single, Cascade, বা Critique। প্রতিটি প্যাটার্ন একটি ভিন্ন মান-থেকে-খরচ ট্রেড-অফ সমাধান করে। তিনটি এজেন্টিক কোডিং বেঞ্চমার্কে অফলাইন মূল্যায়নে, Hydra Fusion ধারাবাহিকভাবে ফ্রন্টিয়ার-স্তরের মান এবং যথেষ্ট আনুমানিক খরচ সাশ্রয় প্রদর্শন করেছে। Terminal Bench 2.1-এ, এটি Claude Opus 5-এর তুলনায় 67% কম আনুমানিক খরচে যাচাইকৃত কাজের মান 4.9 শতাংশ পয়েন্ট উন্নত করেছে।

মূল সত্তা: কোম্পানি: GitHub