GitHub - firelex/jeff: Qwen3.5 और Gemma 4 का फाइन-ट्यूनिंग जीरो-शॉट वर्गीकरण के लिए: छोटे, तेज़ निर्णय मॉडल जिन्हें आप अपने कोड में डाल सकते हैं, Jev के समान अनुरोध प्रारूप के साथ। आप एक स्थिति का वर्णन करते हैं और विकल्पों को सरल शब्दों में सूचीबद्ध करते हैं; Jeff एक एकल फॉरवर्ड पास से प्रत्येक विकल्प के लिए एक कैलिब्रेटेड संभावना लौटाता है। कोई उत्पन्न टेक्स्ट नहीं, कोई पार्सिंग नहीं: RTX PRO 6000 पर प्रति निर्णय लगभग 22 ms और Apple M4 Max (MLX) पर 28 ms।

जीरो-शॉट का मतलब है कि विकल्प कुछ भी हो सकते हैं: सपोर्ट कतारें, उपयोगकर्ता इरादे, मॉडरेशन लेबल, वॉयस कमांड, गेम मूव्स। आपकी श्रेणियों को प्रशिक्षण डेटा में दिखाई देने की आवश्यकता नहीं है; आप उनका वर्णन करते हैं, और Jeff चुनता है। ये बहुत छोटे मॉडल हैं। ये विकल्पों के बीच अत्यंत तेज़, अच्छी तरह से कैलिब्रेटेड निर्णय लेते हैं, और आसानी से आपके स्थानीय कोड में फिट हो जाते हैं। बेंचमार्क पर ये Jev के करीब पहुंचते हैं, और कभी-कभी उसे हरा देते हैं; लेकिन इस आकार पर उनका तर्क Jev से मेल नहीं खाएगा, जो बहुत बड़े मॉडल पर चलता है।

पूरी तरह से स्थानीय हार्डवेयर पर निर्मित। एक RTX PRO 6000 वर्कस्टेशन GPU पर प्रशिक्षण (0.8B लगभग 2 घंटे में प्रशिक्षित होता है, 2B लगभग 3.5 में), सभी सिंथेटिक प्रशिक्षण डेटा दो DGX Sparks पर एक ओपन मॉडल (Qwen3.8-Flash-Next) द्वारा लिखा गया, Mac Book पर परीक्षण। कोई क्लाउड GPU नहीं, और प्रशिक्षण डेटा में कोई बंद-मॉडल आउटपुट नहीं। Jeff Jev के समान अनुरोध प्रारूप का उपयोग करता है, लेकिन यह Type Safe, Jev के निर्माताओं, से संबद्ध या समर्थित नहीं है। Hugging Face पर मॉडल: Jeff-Qwen3.5-0.8B, Jeff-Qwen3.5-2B, Jeff-Gemma4-E2B।

बेंचमार्क: पांच सार्वजनिक बेंचमार्क से 4,599 प्रश्न, साथ ही Jev Bench का सार्वजनिक कठिन स्तर। वर्गीकरण और ग्राउंडिंग में Jeff का समग्र स्कोर Jev से मेल खाता है या उसे हराता है।