HeadlinesBriefing favicon HeadlinesBriefing.com

Jev में 25 पायथन की पंक्तियों में: स्थानीय LLM वर्गीकरण

Hacker News •
×

हर कोई Jev के बारे में बात कर रहा है अगला AI फ्रंटियर, लेकिन लेखक ने सिर्फ 25 पायथन की पंक्तियों में इसे दिखाया है, स्थानीय GGUF मॉडल का उपयोग कर। स्क्रिप्ट Qwen/Qwen3-0.6B-GGUF llama-cpp-python के माध्यम से लोड करता है, वर्गीकरण विकल्प (वैध, स्पैम, फ़िशिंग) परिभाषित करता है, और प्रत्येक विकल्प token के लिए logits निकालता है। फिर numpy के logaddexp का उपयोग करके संभावनाओं में परिवर्तित करता है numerical stability। उदाहरण में फ़िशिंग की संभावना 0.885 दिखाया गया है। लेखक का तर्क है कि Jev बस स्थानीय वर्गीकरण के साथ कैलिब्रेटेड संभावनाओं है—तेज़, निजी, कोई API कॉल नहीं, कोई सिंथेटिक डेटा नहीं, कोई RLCD प्रशिक्षण। उन्होंने ध्यान दिया कि यह एक परोद है और अधिक पूर्ण open-source कार्यान्वयन की ओर इशारा करता है: Open Jev, openjev-sglang, और Open Jev on Diffusion Gemma। सभी Nobody Who द्वारा open-source।