يعالج Janas-LLM نموذج Qwen3-Next-80B (48 جيجا) بـ 37 tok/s على جهاز كمبيوت portable سعة 32 جيجا، مقارنة بـ 2.8 tok/s من llama.cpp. عند قراءة نص دخول، يصل إلى 62 tok/s مقابل 16 tok/s. تم الاختبار على نظام Debian 13 Linux بموازن Intel Core Ultra 9 185H و_card رسم مدمج Arc، وتفوق Janas-LLM على llama.cpp في جميع النماذج الـ13 التي تم مقارنتها بـ Q4_K_M. النماذج الأكبر من ذاكرة النظام ت运转 عن طريق بث Experts من SSD NVMe مع الاحتفاظ بالنشطة في الذاكره. الأداة مكتوبة باللغة C دون ا 의يات Beyond مكتبة C. صممه Maurizio "camauri" Cammalleri، Janas هو برمجات تجريبية في مراحلها المبكرة. الت Builds متاحة لـ Linux x86-64 و Windows 10/11 (x86-64). على Windows 11، تطابق Janas-LLM أداء Linux. الـAPI العام وخط أوام-command قد يتغيران دون إخطار، رغم أن الملفات المخزنة .jns تظل متوافقة عبر الإصدارات.
المصدر: Hacker News · لخّصه HeadlinesBriefing