इस वर्ष की शुरुआत में, strands-labs ने एजेंट आईए के साथ प्रयोग करने के लिए एक प्लेटफार्म की घोषणा की। आज, वे Strands Decider 2B पेश कर रहे हैं, एक छोटा ओपन सोर्स डिसीजन मॉडल जो तेज प्रयोग, स्थानीय विकास और नवाचार के लिए अनुकूलित है। यह मॉडल एक नई क्लास में आता है जिसे 'डिसीजन मॉडल्स' या 'सिस्टम वन मॉडल्स' कहा जाता है, जो विकल्पों के सेटों के बीच चुनाव करते हैं और अनिर्धारित आउटपुट जनरेट करने के बजाय संख्यात्मक स्कोर असाइन करते हैं। एलएलएम के विपरीत, डिसीजन मॉडल तेज होते हैं, दिए गए आकार में अधिक क्षमता वाले होते हैं, हमेशा चुने गए विकल्पों से उत्तर देते हैं, और बहुत कम लेटेंसी के साथ कार्य करते हैं। हालांकि, वे जटिल समस्याओं में खराब प्रदर्शन करते हैं और टेक्स्ट जनरेशन की क्षमता नहीं होती। Strands Decider 2B एक 2 बिलियन पैरामीटर का मॉडल है जो कई मिलीसेकंड में उत्तर देता है। यह 2बी क्लास में 33 में से सटीकता में 3वें स्थान पर है और कैलिब्रेशन में 30 में से पहले स्थान पर है (बस 2बी से अधिक मॉडलों को छोड़कर)। इस मॉडल में एक प्रशिक्षित एलएलएम टॉर्सो (क्वेन 3.5-2B) है जिसमें विकल्प स्थितियों के खिलाफ उत्तरों को स्कोर करने वाला एक पॉइंटर हेड है। इसे गिटहब पर ओपन सोर्स के रूप में जारी किया गया है, हगिंग फेस पर वेट्स के साथ, शिक्षण डेटा और स्क्रिप्ट शामिल हैं।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित