HeadlinesBriefing HeadlinesBriefing.com

تشغيل نماذج GGUF على PS5 مكسور الحماية

Hacker News •
×

PS5LM مشروع مفتوح يحوّل جهاز PS5 مكسور الحماية إلى خادم نماذج خاص في المنزل. يشغّل llama.cpp على وحدة معالجة الرسومات في الجهاز، ويحمّل أي نموذج بصيغة GGUF، ويقدمه للحواسيب المحمولة والهواتف وأدوات البرمجة على شبكتك. لا يتطلب تشغيله حاسوباً شخصياً أو خدمة سحابية أو حساباً أثناء العمل.

يوفّر الجهاز واجهتي OpenAI الخاصتين بـ /v1/chat/completions وAnthropic الخاصة بـ /v1/messages، لذا يمكن لـ Claude Code العمل معه، كما تعمل صفحة الدردشة في أي متصفح. تعرض واجهة التلفاز كل طلب وارد كمحادثة، تشمل الجهاز الذي طلب والمحتوى المطلوب والرد المتدفق. وتعرض صفحة الجهاز مخططات لدرجة الحرارة والطاقة وحمل وحدتي GPU وCPU خلال آخر دقيقتين أو آخر ساعة.

كما تُدعم نماذج القرار. فبتحميل نموذج مثل d1 Omni 600M يمكن للجهاز الرد على واجهة /v1/systemone الخاصة بـ Ollaya، فيعيد خيارات مصنفة ودرجات وإجابات بنعم أو لا مع احتمالات معايرة في جزء من الثانية. وتستطيع النماذج المزودة بمعالجات للصور، ومنها Gemma 4 وMini CPM-V وd1، معالجة الصور في الدردشة وفي القرارات.

ويختلف الأداء باختلاف النموذج. على جهاز PS5 Slim يبلغ Qwen 3.5 9B (Q4_K_M، بحجم 5.3 غيغابايت) نحو 55 رمزاً في الثانية، بينما يعمل النموذج الأصغر Qwen 3.5 0.8B بسرعة 207 رموز في الثانية. ويقرأ المخطط المدمج كل ملف GGUF ويختار أطول سياق وأفضل ذاكرة مؤقتة تتسع لها الذاكرة المتاحة. يتطلب الإعداد جهاز PS5 مكسور الحماية بإصدار نظام من 7.00 إلى 13.60 مع الحمولات المدرجة، وبعدها يمكن للتطبيق تنزيل النماذج من Hugging Face مباشرة إلى التخزين الداخلي أو محرك M.2 أو محرك USB.

المصدر: Hacker News · لخّصه HeadlinesBriefing