Llmspeed هي أداة قياس معيارية تُدار من قبل المجتمع تتيح للمستخدمين تقدير مدى سرعة تشغيل نموذج لغوي محلي على تكوينات أجهزة مختلفة قبل الشراء. توفر المنصة تقديرات لمطالبة قصيرة على جهاز واحد، مستمدة من معايير المجتمع على r/LocalLLaMA وlocalscore.ai، بالإضافة إلى التوقعات بناءً على مواصفات الأجهزة. يمكن للمستخدمين التصفح حسب الأجهزة، بما في ذلك طرازات NVIDIA RTX مثل RTX 3090 وRTX 4090 وRTX 5090، بالإضافة إلى خيارات AMD وMac. تشمل النماذج المختبرة إصدارات Qwen وGemma وLlama وDeepSeek. الأداة مفتوحة المصدر على GitHub وتهدف إلى مساعدة المهووسين في اتخاذ قرارات مستنيرة بشأن نشر الذكاء الاصطناعي المحلي.
المصدر: Hacker News · لخّصه HeadlinesBriefing