HeadlinesBriefing favicon HeadlinesBriefing.com

TERMy: LLM ছাড়া দ্রুত টার্মিনাল সহকারী

Hacker News •
×

আমি গবেষণা এবং উন্নয়ন পছন্দ করি, আপনি PJON (Padded Jittering Operative Network) এর কারণে আমার সম্পর্কে শুনে থাকতে পারেন। এটি একটি নেটওয়ার্ক প্রোটোকল যা আমি 2010 সালে বিকাশ শুরু করেছিলাম, যা সম্প্রতি ETH Zurich বিশ্ববিদ্যালয় দ্বারা Pius Sieber এর গবেষণার জন্য সিলিকনে বাস্তবায়িত হয়েছে।

আমি আপনার সাথে TERMy শেয়ার করতে উত্তেজিত, যা NPC-Forge ফ্রেমওয়ার্কের উপর নির্মিত একটি টার্মিনাল সহকারী। আজ যা কিছু তৈরি হচ্ছে তার বিপরীতে, TERMy এমবেডিং, মেশিন-লার্নিং বা LLM ব্যবহার করে না। এটি CPU-তে চলে (এমনকি Raspberry Pi Zero-তেও) টার্মিনালে বা ব্রাউজার ট্যাবে ক্লায়েন্ট-সাইডে এবং মিলিসেকেন্ডে সাড়া দেয়। এটি একটি নিন্দুক কিন্তু খুব জ্ঞানী Linux টার্মিনাল সহকারী যা আপনার প্রাকৃতিক ভাষাকে শেল কমান্ডে অনুবাদ করে একটি কৃত্রিম নিউরনের উপর নির্ভর না করে।

জুলাইয়ের শুরু থেকে আমার ব্যক্তিগত প্রকল্পগুলিতে 2 মাস মনোনিবেশ করার সুযোগ পেয়েছি, AI মূল্য বৃদ্ধি এবং ভর্তুকিযুক্ত tokenmaxing শেষ হওয়ার অদ্ভুত সময়ে। আমি কৌতূহলী ছিলাম যে আমি স্ক্র্যাচ থেকে একটি টার্মিনাল সহকারী তৈরি করতে পারি কিনা যা সহজ প্রাকৃতিক ভাষার অনুরোধ পরিচালনা করতে সক্ষম। আমার স্মৃতিশক্তি খারাপ এবং আমি copilot-কে "ভার্চুয়াল পরিবেশ সক্রিয় করুন" বা অনুরূপ তুচ্ছ কাজ জিজ্ঞাসা করতে অভ্যস্ত হয়েছিলাম, প্রতি মাসে একটি অ-নগণ্য পরিমাণ ব্যয় করে।

এটি কীভাবে কাজ করে: আপনি যখন একটি প্রম্পট টাইপ করেন, এটি ~1000 লাইনের Python-এ লেখা একটি হালকা NLU পাইপলাইনের মধ্য দিয়ে যায় যা নিম্নলিখিত পদক্ষেপগুলি বাস্তবায়ন করে: 1. গালিগালাজ, আবেগসূচক, উৎসাহ, নিরুৎসাহ এবং ধন্যবাদ শব্দগুলি সরান (শব্দ অপসারণ) 2. অনুভূতি বিশ্লেষণ 3. সঠিক মিল (খুব দ্রুত) 4. টেমপ্লেট মিল (ধীর) 5. সম্ভাব্য মিল (আরও ধীর)। ধাপ 5 বিরল শব্দ সনাক্ত করতে IDF, শব্দ বিপর্যয় মিটমাট করতে BOW এবং টাইপো নিরাপদে পরিচালনা করতে IDF-ওয়েটেড Levenshtein-এর উপর নির্ভর করে। অনুমতি গেটিং ডেটাসেটে হার্ডকোড করা হয় এবং সমস্ত সম্ভাব্য ধ্বংসাত্মক কমান্ডের জন্য প্রয়োগ করা হয়, তাই এটি একটি অপ্রত্যাশিত LLM-কে আপনার মেশিনে বন্য চালানোর চেয়ে স্বাভাবিকভাবে নিরাপদ।