HeadlinesBriefing favicon HeadlinesBriefing.com

TERMy: LLM के बिना तेज़ टर्मिनल सहायक

Hacker News •
×

मुझे अनुसंधान और विकास से प्यार है, आपने PJON (Padded Jittering Operative Network) के कारण मेरे बारे में सुना होगा। यह एक नेटवर्क प्रोटोकॉल है जिसे मैंने 2010 में विकसित करना शुरू किया था, जिसे हाल ही में ETH Zurich विश्वविद्यालय द्वारा Pius Sieber के शोध के कारण सिलिकॉन में लागू किया गया।

मैं आपके साथ TERMy साझा करने के लिए उत्साहित हूं, जो NPC-Forge फ्रेमवर्क पर बनाया गया एक टर्मिनल सहायक है। आज बनाई जा रही हर चीज़ के विपरीत, TERMy embeddings, मशीन-लर्निंग या LLM का उपयोग नहीं करता है। यह CPU पर चलता है (यहां तक कि Raspberry Pi Zero पर भी) टर्मिनल में या ब्राउज़र टैब में क्लाइंट-साइड, और मिलीसेकंड में प्रतिक्रिया देता है। यह एक निंदक लेकिन बहुत जानकार Linux टर्मिनल सहायक है जो आपकी प्राकृतिक भाषा को शेल कमांड में अनुवाद करता है बिना एक भी कृत्रिम न्यूरॉन पर निर्भर हुए।

मुझे जुलाई की शुरुआत से 2 महीने अपने व्यक्तिगत परियोजनाओं पर ध्यान केंद्रित करने का मौका मिला, AI मूल्य वृद्धि और सब्सिडी वाले tokenmaxing के अंत के अजीब समय के दौरान। मैं उत्सुक था कि क्या मैं खरोंच से एक टर्मिनल सहायक विकसित कर सकता हूं जो सरल प्राकृतिक भाषा अनुरोधों को संभाल सके। मेरी याददाश्त खराब है और मैं copilot से "वर्चुअल वातावरण सक्रिय करें" या इसी तरह के तुच्छ कार्यों के लिए पूछने का आदी हो गया था, हर महीने एक गैर-मामूली राशि खर्च करता था।

यह कैसे काम करता है: जब आप एक प्रॉम्प्ट टाइप करते हैं, तो यह ~1000 लाइनों के Python में लिखे एक हल्के NLU पाइपलाइन से गुजरता है जो निम्नलिखित चरणों को लागू करता है: 1. अपशब्द, विस्मयादिबोधक, प्रोत्साहन, निरुत्साहन और धन्यवाद शब्दों को हटाना (शोर हटाना) 2. भावना विश्लेषण 3. सटीक मिलान (बहुत तेज़) 4. टेम्पलेट मिलान (धीमा) 5. संभाव्य मिलान (और भी धीमा)। चरण 5 दुर्लभ शब्दों की पहचान के लिए IDF, शब्द उलटाव को समायोजित करने के लिए BOW, और टाइपो को सुरक्षित रूप से संभालने के लिए IDF-भारित Levenshtein पर निर्भर करता है। अनुमति गेटिंग डेटासेट में हार्डकोड की गई है और सभी संभावित विनाशकारी कमांड के लिए लागू की जाती है, इसलिए यह स्वाभाविक रूप से एक अप्रत्याशित LLM को आपकी मशीन पर बेतहाशा चलने देने से अधिक सुरक्षित है।