PS5LM एक ओपन प्रोजेक्ट है जो जेलब्रोकन PS5 को घर पर एक निजी मॉडल सर्वर में बदल देता है। यह कंसोल के GPU पर llama.cpp चलाता है, किसी भी GGUF मॉडल को लोड करता है और उसे आपके नेटवर्क पर लैपटॉप, फ़ोन और कोडिंग टूल्स को उपलब्ध कराता है। चलते समय किसी PC, क्लाउड या खाते की आवश्यकता नहीं होती।
कंसोल OpenAI के /v1/chat/completions और Anthropic के /v1/messages API को उपलब्ध कराता है, इसलिए Claude Code इसके साथ काम कर सकता है, और किसी भी ब्राउज़र में एक चैट पेज काम करता है। टीवी इंटरफ़ेस हर आने वाले अनुरोध को चैट के रूप में दिखाता है, जिसमें यह भी शामिल है कि किस डिवाइस ने पूछा, क्या पूछा और स्ट्रीम की गई प्रतिक्रिया। कंसोल पेज पिछले दो मिनट या एक घंटे के तापमान, पावर, GPU और CPU लोड के चार्ट दिखाता है।
निर्णय मॉडल भी समर्थित हैं। d1 Omni 600M जैसे मॉडल लोड करने पर कंसोल Ollaya के /v1/systemone API का जवाब दे सकता है, जो एक सेकंड के अंश में कैलिब्रेटेड संभावनाओं के साथ टाइप किए गए विकल्प, स्कोर और हाँ-या-नहीं उत्तर लौटाता है। इमेज प्रोजेक्टर वाले मॉडल, जिनमें Gemma 4, Mini CPM-V और d1 शामिल हैं, चैट और निर्णयों में चित्रों को प्रोसेस कर सकते हैं।
प्रदर्शन मॉडल के अनुसार बदलता है। PS5 Slim पर Qwen 3.5 9B (Q4_K_M, 5.3 GB) लगभग 55 टोकन प्रति सेकंड तक पहुँचता है, जबकि छोटा Qwen 3.5 0.8B 207 टोकन प्रति सेकंड पर चलता है। अंतर्निहित प्लानर हर GGUF को पढ़ता है और उपलब्ध मेमोरी में फ़िट होने वाला सबसे लंबा कॉन्टेक्स्ट और सर्वश्रेष्ठ कैश चुनता है। सेटअप के लिए फ़र्मवेयर 7.00 से 13.60 वाला जेलब्रोकन PS5 और सूचीबद्ध पेलोड चाहिए; इसके बाद ऐप Hugging Face से मॉडल सीधे आंतरिक स्टोरेज, M.2 ड्राइव या USB ड्राइव पर डाउनलोड कर सकता है।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित