HeadlinesBriefing favicon HeadlinesBriefing.com

Kev: Qwen3.5 पर आधारित छोटे निर्णय मॉडल

Hacker News •
×

Kev एक Qwen3.5 पर आधारित छोटे निर्णय मॉडल का परिवार है, Jev के Architecture Unmasked पर आधारित है। आप पूर्व-प्रशिक्षित वेट्स उपयोग कर सकते हैं या अपना स्वयं प्रशिक्षित कर सकते हैं।API Type Safe के System One के साथ मेल खाता है, इसलिए आप उनके Python SDK को अपने स्थानीय सर्वर की ओर इशारा कर सकते हैं।0.8B, 4B और 9B आकारों के साथ प्रशिक्षण कोड और मूल्यांकन डेटा उपलब्ध हैं।एक ही अनुरोध में yes/no (noul), multiple-choice (choice) और rating (score) प्रश्नों का समर्थन करता है।प्रश्न इनपुट पाठ को साझा करते हैं लेकिन एक दूसरे को नहीं पढ़ सकते।CUDA और Apple Silicon के साथ समर्थन; 4B और 9B मॉडल bf16 का उपयोग करके 32 GB वाले Mac पर फिट होते हैं।

तेज़ शुरुआत Python 3.12+ और uv की आवश्यकता है।क्लोन करें और स्थानीय रूप से 4B मॉडल चलाएं।पहली चलाव में एडाप्टर और बेस मॉडल डाउनलोड होता है।आप स्थानीय चेकपॉइंट या Hub रिवीजन भी निर्दिष्ट कर सकते हैं।

एक वेब प्लेग्राउंड आपको इनपुट ट्राई करने और विकल्प क्रम कैसे उत्तरों को प्रभावित करता है, इसे जाँचने की अनुमति देता है।प्रश्न एकीकरण का परीक्षण के लिए प्रीसेट शामिल हैं और एक शहर डेमो है जहाँ बोर्ड इनपुट के रूप में है और वैध चालें Choice विकल्पों के रूप में हैं।

मॉडल Kev-4B से शुरू होते हैं।उच्च अक्षमता और क्षमता के लिए Kev-9B का उपयोग करें।