HeadlinesBriefing favicon HeadlinesBriefing.com

TERMy: مساعد طرفية سريع بدون LLMs

Hacker News •
×

أنا أحب البحث والتطوير، ربما سمعت عني بسبب PJON (Padded Jittering Operative Network). إنه بروتوكول شبكة بدأت تطويره في 2010، وتم تنفيذه مؤخرًا في السيليكون من قبل جامعة ETH Zurich بفضل بحث Pius Sieber.

أنا متحمس لمشاركة TERMy معك، وهو مساعد طرفية مبني على إطار عمل NPC-Forge. على عكس كل ما يتم بناؤه اليوم، لا يستخدم TERMy embeddings أو تعلم الآلة أو نماذج لغوية كبيرة. يعمل على وحدة المعالجة المركزية (حتى على Raspberry Pi Zero) سواء في الطرفية أو من جانب العميل في علامة تبويب المتصفح ويستجيب بالمللي ثانية. إنه مساعد طرفية Linux ساخر ولكنه واسع المعرفة يترجم لغتك الطبيعية إلى أوامر shell دون الاعتماد على خلية عصبية اصطناعية واحدة.

أتيحت لي فرصة التركيز لمدة شهرين على مشاريعي الشخصية منذ أوائل يوليو، خلال الأوقات الغريبة لارتفاع أسعار الذكاء الاصطناعي ونهاية tokenmaxing المدعوم. كنت فضوليًا لمعرفة ما إذا كان بإمكاني تطوير مساعد طرفية من الصفر قادر على التعامل مع طلبات اللغة الطبيعية البسيطة. لدي ذاكرة سيئة واعتادت على طلب من copilot "تفعيل البيئة الافتراضية" أو عمليات تافهة مماثلة وإنفاق مبلغ غير ضئيل كل شهر.

كيف يعمل: عند كتابة موجه، يمر عبر خط أنابيب NLU خفيف مكتوب بحوالي 1000 سطر من Python ينفذ الخطوات التالية: 1. إزالة الشتائم والمداخلات وكلمات التشجيع والتثبيط والشكر (إزالة الضوضاء) 2. تحليل المشاعر 3. المطابقة التامة (سريعة جدًا) 4. مطابقة القالب (أبطأ) 5. المطابقة الاحتمالية (أبطأ). تعتمد الخطوة 5 على IDF لتحديد الكلمات النادرة، وBOW لاستيعاب انعكاسات الكلمات، وLevenshtein الموزون بـ IDF للتعامل الآمن مع الأخطاء الإملائية. يتم ترميز التحكم في الأذونات في مجموعة البيانات ويتم فرضه لجميع الأوامر التي قد تكون مدمرة، لذا فهو أكثر أمانًا بطبيعته من ترك نموذج لغوي كبير غير متوقع يعمل بحرية على جهازك.