Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console

PS5LM is an open project that turns a jailbroken PS5 into a private model server at home. It runs llama.cpp on the console's GPU, loading any GGUF model and serving it to laptops, phones and coding tools on your network. No PC, cloud or account is required while it runs.

The console exposes OpenAI's /v1/chat/completions and Anthropic's /v1/messages APIs, so Claude Code can work against it, and a chat page works in any browser. The TV interface shows each incoming request as a chat, including which device asked, what it asked, and the streamed reply. A Console page charts temperature, power, GPU and CPU load over the last two minutes or hour.

Decision models are also supported. Loading a model such as d1 Omni 600M lets the console answer Ollaya's /v1/systemone API, returning typed choices, scores and yes-or-no answers with calibrated probabilities in a fraction of a second. Models with image projectors, including Gemma 4, Mini CPM-V and d1, can process pictures in chat and decisions.

Performance varies by model. On a PS5 Slim, Qwen 3.5 9B (Q4_K_M, 5.3 GB) reaches about 55 tokens a second, while the smaller Qwen 3.5 0.8B runs at 207 tokens a second. The built-in planner reads each GGUF and selects the longest context and best cache that fit available memory. Setup requires a jailbroken PS5 on firmware 7.00 to 13.60 with the listed payloads, after which the app can download models from Hugging Face directly to internal storage, the M.2 drive or a USB drive.

PS5LM مشروع مفتوح يحوّل جهاز PS5 مكسور الحماية إلى خادم نماذج خاص في المنزل. يشغّل llama.cpp على وحدة معالجة الرسومات في الجهاز، ويحمّل أي نموذج بصيغة GGUF، ويقدمه للحواسيب المحمولة والهواتف وأدوات البرمجة على شبكتك. لا يتطلب تشغيله حاسوباً شخصياً أو خدمة سحابية أو حساباً أثناء العمل.

يوفّر الجهاز واجهتي OpenAI الخاصتين بـ /v1/chat/completions وAnthropic الخاصة بـ /v1/messages، لذا يمكن لـ Claude Code العمل معه، كما تعمل صفحة الدردشة في أي متصفح. تعرض واجهة التلفاز كل طلب وارد كمحادثة، تشمل الجهاز الذي طلب والمحتوى المطلوب والرد المتدفق. وتعرض صفحة الجهاز مخططات لدرجة الحرارة والطاقة وحمل وحدتي GPU وCPU خلال آخر دقيقتين أو آخر ساعة.

كما تُدعم نماذج القرار. فبتحميل نموذج مثل d1 Omni 600M يمكن للجهاز الرد على واجهة /v1/systemone الخاصة بـ Ollaya، فيعيد خيارات مصنفة ودرجات وإجابات بنعم أو لا مع احتمالات معايرة في جزء من الثانية. وتستطيع النماذج المزودة بمعالجات للصور، ومنها Gemma 4 وMini CPM-V وd1، معالجة الصور في الدردشة وفي القرارات.

ويختلف الأداء باختلاف النموذج. على جهاز PS5 Slim يبلغ Qwen 3.5 9B (Q4_K_M، بحجم 5.3 غيغابايت) نحو 55 رمزاً في الثانية، بينما يعمل النموذج الأصغر Qwen 3.5 0.8B بسرعة 207 رموز في الثانية. ويقرأ المخطط المدمج كل ملف GGUF ويختار أطول سياق وأفضل ذاكرة مؤقتة تتسع لها الذاكرة المتاحة. يتطلب الإعداد جهاز PS5 مكسور الحماية بإصدار نظام من 7.00 إلى 13.60 مع الحمولات المدرجة، وبعدها يمكن للتطبيق تنزيل النماذج من Hugging Face مباشرة إلى التخزين الداخلي أو محرك M.2 أو محرك USB.

PS5LM একটি ওপেন প্রকল্প, যা জেলব্রেক করা PS5-কে বাড়িতে একটি ব্যক্তিগত মডেল সার্ভারে পরিণত করে। এটি কনসোলের GPU-তে llama.cpp চালায়, যেকোনো GGUF মডেল লোড করে এবং আপনার নেটওয়ার্কের ল্যাপটপ, ফোন ও কোডিং টুলে সরবরাহ করে। চলাকালীন কোনো PC, ক্লাউড বা অ্যাকাউন্টের প্রয়োজন হয় না।

কনসোল OpenAI-এর /v1/chat/completions এবং Anthropic-এর /v1/messages API উন্মুক্ত করে, তাই Claude Code এর সাথে কাজ করতে পারে, এবং যেকোনো ব্রাউজারে একটি চ্যাট পেজ কাজ করে। টিভি ইন্টারফেস প্রতিটি আসা অনুরোধকে একটি চ্যাট হিসেবে দেখায়, যেখানে কোন ডিভাইস জিজ্ঞাসা করেছে, কী জিজ্ঞাসা করেছে এবং স্ট্রিম করা উত্তর দেখা যায়। একটি কনসোল পেজ শেষ দুই মিনিট বা এক ঘণ্টার তাপমাত্রা, পাওয়ার, GPU ও CPU লোডের চার্ট দেখায়।

ডিসিশন মডেলও সমর্থিত। d1 Omni 600M-এর মতো একটি মডেল লোড করলে কনসোল Ollaya-এর /v1/systemone API-তে সাড়া দিতে পারে, যা এক সেকেন্ডের ভগ্নাংশে ক্যালিব্রেটেড সম্ভাব্যতাসহ টাইপ করা বিকল্প, স্কোর ও হ্যাঁ-বা-না উত্তর ফেরত দেয়। Gemma 4, Mini CPM-V ও d1 সহ ইমেজ প্রজেক্টর আছে এমন মডেল চ্যাট ও সিদ্ধান্তে ছবি প্রক্রিয়া করতে পারে।

কর্মক্ষমতা মডেলভেদে আলাদা। PS5 Slim-এ Qwen 3.5 9B (Q4_K_M, 5.3 GB) প্রায় প্রতি সেকেন্ডে 55 টোকেন পৌঁছায়, আর ছোট Qwen 3.5 0.8B চলে প্রতি সেকেন্ডে 207 টোকেনে। অন্তর্নির্মিত প্ল্যানার প্রতিটি GGUF পড়ে এবং উপলব্ধ মেমরিতে যতটা সম্ভব দীর্ঘ কনটেক্সট ও সেরা ক্যাশ বেছে নেয়। সেটআপের জন্য ফার্মওয়্যার 7.00 থেকে 13.60 সহ জেলব্রেক করা PS5 এবং তালিকাভুক্ত পেলোড প্রয়োজন; এরপর অ্যাপ Hugging Face থেকে সরাসরি অভ্যন্তরীণ স্টোরেজ, M.2 ড্রাইভ বা USB ড্রাইভে মডেল ডাউনলোড করতে পারে।

PS5LM ist ein Open-Source-Projekt, das eine jailbreakte PS5 in einen privaten Modellserver für zu Hause verwandelt. Es führt llama.cpp auf der GPU der Konsole aus, lädt jedes beliebige GGUF-Modell und stellt es Laptops, Smartphones und Programmierwerkzeugen in Ihrem Netzwerk zur Verfügung. Während des Betriebs sind kein PC, keine Cloud und kein Konto erforderlich.

Die Konsole stellt die APIs /v1/chat/completions von OpenAI und /v1/messages von Anthropic bereit, sodass Claude Code mit ihr arbeiten kann, und eine Chat-Seite funktioniert in jedem Browser. Die Oberfläche auf dem Fernseher zeigt jede eingehende Anfrage als Chat an, einschließlich des anfragenden Geräts, der Frage und der gestreamten Antwort. Eine Konsolenseite zeigt Diagramme zu Temperatur, Leistung sowie GPU- und CPU-Auslastung der letzten zwei Minuten oder der letzten Stunde.

Entscheidungsmodelle werden ebenfalls unterstützt. Beim Laden eines Modells wie d1 Omni 600M kann die Konsole auf die API /v1/systemone von Ollaya antworten und liefert typisierte Auswahlmöglichkeiten, Bewertungen und Ja-oder-Nein-Antworten mit kalibrierten Wahrscheinlichkeiten in einem Bruchteil einer Sekunde. Modelle mit Bildprojektoren, darunter Gemma 4, Mini CPM-V und d1, können Bilder im Chat und bei Entscheidungen verarbeiten.

Die Leistung hängt vom Modell ab. Auf einer PS5 Slim erreicht Qwen 3.5 9B (Q4_K_M, 5,3 GB) etwa 55 Token pro Sekunde, während das kleinere Qwen 3.5 0.8B mit 207 Token pro Sekunde läuft. Der integrierte Planer liest jede GGUF-Datei und wählt den längsten Kontext und den besten Cache, die in den verfügbaren Speicher passen. Die Einrichtung erfordert eine jailbreakte PS5 mit Firmware 7.00 bis 13.60 und den aufgeführten Payloads; danach kann die App Modelle von Hugging Face direkt auf den internen Speicher, die M.2-Festplatte oder einen USB-Stick herunterladen.

PS5LM es un proyecto abierto que convierte una PS5 con jailbreak en un servidor de modelos privado en casa. Ejecuta llama.cpp en la GPU de la consola, carga cualquier modelo GGUF y lo sirve a portátiles, teléfonos y herramientas de programación de tu red. No se requiere PC, nube ni cuenta mientras está en funcionamiento.

La consola expone las API /v1/chat/completions de OpenAI y /v1/messages de Anthropic, por lo que Claude Code puede trabajar con ella, y una página de chat funciona en cualquier navegador. La interfaz de la televisión muestra cada solicitud entrante como un chat, incluyendo qué dispositivo la envió, qué pidió y la respuesta transmitida. Una página de consola muestra gráficos de temperatura, potencia y carga de GPU y CPU de los últimos dos minutos o de la última hora.

También se admiten modelos de decisión. Al cargar un modelo como d1 Omni 600M, la consola puede responder a la API /v1/systemone de Ollaya, devolviendo opciones tipificadas, puntuaciones y respuestas de sí o no con probabilidades calibradas en una fracción de segundo. Los modelos con proyectores de imagen, incluidos Gemma 4, Mini CPM-V y d1, pueden procesar imágenes en el chat y en las decisiones.

El rendimiento varía según el modelo. En una PS5 Slim, Qwen 3.5 9B (Q4_K_M, 5,3 GB) alcanza unos 55 tokens por segundo, mientras que el Qwen 3.5 0.8B, más pequeño, funciona a 207 tokens por segundo. El planificador integrado lee cada GGUF y selecciona el contexto más largo y la mejor caché que quepan en la memoria disponible. La configuración requiere una PS5 con firmware de 7.00 a 13.60 y jailbreak, con los payloads indicados; después, la aplicación puede descargar modelos de Hugging Face directamente al almacenamiento interno, a la unidad M.2 o a una memoria USB.

PS5LM est un projet open source qui transforme une PS5 jailbreakée en serveur de modèles privé à domicile. Il exécute llama.cpp sur le GPU de la console, charge n'importe quel modèle GGUF et le met à disposition des ordinateurs portables, téléphones et outils de programmation de votre réseau. Aucun PC, cloud ni compte n'est nécessaire pendant son fonctionnement.

La console expose les API /v1/chat/completions d'OpenAI et /v1/messages d'Anthropic, ce qui permet à Claude Code de travailler avec elle, et une page de chat fonctionne dans tout navigateur. L'interface de la télévision affiche chaque requête entrante sous forme de conversation, avec l'appareil demandeur, la question posée et la réponse en flux continu. Une page Console présente des graphiques de température, de puissance et de charge du GPU et du CPU sur les deux dernières minutes ou la dernière heure.

Les modèles de décision sont également pris en charge. En chargeant un modèle comme d1 Omni 600M, la console peut répondre à l'API /v1/systemone d'Ollaya, en renvoyant des choix typés, des scores et des réponses oui ou non avec des probabilités calibrées en une fraction de seconde. Les modèles dotés de projecteurs d'images, dont Gemma 4, Mini CPM-V et d1, peuvent traiter des images dans le chat et dans les décisions.

Les performances varient selon le modèle. Sur une PS5 Slim, Qwen 3.5 9B (Q4_K_M, 5,3 Go) atteint environ 55 tokens par seconde, tandis que le plus petit Qwen 3.5 0.8B fonctionne à 207 tokens par seconde. Le planificateur intégré lit chaque GGUF et sélectionne le contexte le plus long et le meilleur cache qui tiennent dans la mémoire disponible. L'installation nécessite une PS5 jailbreakée en firmware 7.00 à 13.60 avec les payloads indiqués ; ensuite, l'application peut télécharger des modèles depuis Hugging Face directement vers le stockage interne, le disque M.2 ou une clé USB.

PS5LM एक ओपन प्रोजेक्ट है जो जेलब्रोकन PS5 को घर पर एक निजी मॉडल सर्वर में बदल देता है। यह कंसोल के GPU पर llama.cpp चलाता है, किसी भी GGUF मॉडल को लोड करता है और उसे आपके नेटवर्क पर लैपटॉप, फ़ोन और कोडिंग टूल्स को उपलब्ध कराता है। चलते समय किसी PC, क्लाउड या खाते की आवश्यकता नहीं होती।

कंसोल OpenAI के /v1/chat/completions और Anthropic के /v1/messages API को उपलब्ध कराता है, इसलिए Claude Code इसके साथ काम कर सकता है, और किसी भी ब्राउज़र में एक चैट पेज काम करता है। टीवी इंटरफ़ेस हर आने वाले अनुरोध को चैट के रूप में दिखाता है, जिसमें यह भी शामिल है कि किस डिवाइस ने पूछा, क्या पूछा और स्ट्रीम की गई प्रतिक्रिया। कंसोल पेज पिछले दो मिनट या एक घंटे के तापमान, पावर, GPU और CPU लोड के चार्ट दिखाता है।

निर्णय मॉडल भी समर्थित हैं। d1 Omni 600M जैसे मॉडल लोड करने पर कंसोल Ollaya के /v1/systemone API का जवाब दे सकता है, जो एक सेकंड के अंश में कैलिब्रेटेड संभावनाओं के साथ टाइप किए गए विकल्प, स्कोर और हाँ-या-नहीं उत्तर लौटाता है। इमेज प्रोजेक्टर वाले मॉडल, जिनमें Gemma 4, Mini CPM-V और d1 शामिल हैं, चैट और निर्णयों में चित्रों को प्रोसेस कर सकते हैं।

प्रदर्शन मॉडल के अनुसार बदलता है। PS5 Slim पर Qwen 3.5 9B (Q4_K_M, 5.3 GB) लगभग 55 टोकन प्रति सेकंड तक पहुँचता है, जबकि छोटा Qwen 3.5 0.8B 207 टोकन प्रति सेकंड पर चलता है। अंतर्निहित प्लानर हर GGUF को पढ़ता है और उपलब्ध मेमोरी में फ़िट होने वाला सबसे लंबा कॉन्टेक्स्ट और सर्वश्रेष्ठ कैश चुनता है। सेटअप के लिए फ़र्मवेयर 7.00 से 13.60 वाला जेलब्रोकन PS5 और सूचीबद्ध पेलोड चाहिए; इसके बाद ऐप Hugging Face से मॉडल सीधे आंतरिक स्टोरेज, M.2 ड्राइव या USB ड्राइव पर डाउनलोड कर सकता है।

PS5LM adalah proyek terbuka yang mengubah PS5 yang sudah di-jailbreak menjadi server model pribadi di rumah. Ia menjalankan llama.cpp di GPU konsol, memuat model GGUF apa pun, dan melayaninya ke laptop, ponsel, serta alat pemrograman di jaringan Anda. Tidak diperlukan PC, cloud, atau akun selama program berjalan.

Konsol menyediakan API /v1/chat/completions dari OpenAI dan /v1/messages dari Anthropic, sehingga Claude Code dapat bekerja dengannya, dan halaman chat berfungsi di browser apa pun. Antarmuka TV menampilkan setiap permintaan masuk sebagai obrolan, termasuk perangkat yang bertanya, apa yang ditanyakan, dan balasan yang dialirkan. Halaman Console menampilkan grafik suhu, daya, serta beban GPU dan CPU selama dua menit atau satu jam terakhir.

Model keputusan juga didukung. Dengan memuat model seperti d1 Omni 600M, konsol dapat menjawab API /v1/systemone dari Ollaya, mengembalikan pilihan bertipe, skor, dan jawaban ya-atau-tidak dengan probabilitas terkalibrasi dalam sekejap. Model dengan proyektor gambar, termasuk Gemma 4, Mini CPM-V, dan d1, dapat memproses gambar dalam chat dan keputusan.

Performa bervariasi tergantung model. Pada PS5 Slim, Qwen 3.5 9B (Q4_K_M, 5,3 GB) mencapai sekitar 55 token per detik, sedangkan Qwen 3.5 0.8B yang lebih kecil berjalan pada 207 token per detik. Perencana bawaan membaca setiap GGUF dan memilih konteks terpanjang serta cache terbaik yang muat dalam memori yang tersedia. Penyiapannya memerlukan PS5 yang sudah di-jailbreak dengan firmware 7.00 hingga 13.60 dan payload yang tercantum; setelah itu aplikasi dapat mengunduh model dari Hugging Face langsung ke penyimpanan internal, drive M.2, atau drive USB.

PS5LMは、脱獄済みのPS5を自宅のプライベートモデルサーバーに変えるオープンソースプロジェクトです。本体のGPUでllama.cppを動かし、任意のGGUFモデルを読み込んで、ネットワーク上のノートパソコン、スマートフォン、コーディングツールに提供します。動作中にPC、クラウド、アカウントは必要ありません。

本体はOpenAIの/v1/chat/completionsとAnthropicの/v1/messages APIを公開しているため、Claude Codeからも利用でき、どのブラウザからもチャットページを使えます。テレビ画面のインターフェースでは、受信したリクエストごとに、どのデバイスが、何を尋ね、ストリーミングで返された応答を、チャット形式で表示します。コンソールページでは、直近2分間または1時間の温度、電力、GPUとCPUの負荷をグラフで確認できます。

判定モデルにも対応しています。d1 Omni 600Mなどのモデルを読み込むと、本体はOllayaの/v1/systemone APIに応答でき、型付きの選択肢、スコア、校正済みの確率付きのはい/いいえの回答を一瞬で返します。Gemma 4、Mini CPM-V、d1などの画像プロジェクターを備えたモデルは、チャットと判定の両方で画像を処理できます。

性能はモデルによって異なります。PS5 Slimでは、Qwen 3.5 9B（Q4_K_M、5.3 GB）が約毎秒55トークンに達し、より小さいQwen 3.5 0.8Bは毎秒207トークンで動作します。内蔵のプランナーは各GGUFを読み取り、利用可能なメモリに収まる最長のコンテキストと最適なキャッシュを選びます。セットアップには、ファームウェア7.00から13.60の脱獄済みPS5と、記載のペイロードが必要です。その後はHugging Faceからモデルを内蔵ストレージ、M.2ドライブ、またはUSBドライブへ直接ダウンロードできます。

PS5LM é um projeto aberto que transforma um PS5 com jailbreak em um servidor de modelos privado em casa. Ele executa o llama.cpp na GPU do console, carrega qualquer modelo GGUF e o disponibiliza para notebooks, celulares e ferramentas de programação na sua rede. Nenhum PC, nuvem ou conta é necessário enquanto está em execução.

O console expõe as APIs /v1/chat/completions da OpenAI e /v1/messages da Anthropic, para que o Claude Code possa trabalhar com ele, e uma página de chat funciona em qualquer navegador. A interface da TV mostra cada solicitação recebida como um chat, incluindo qual dispositivo perguntou, o que foi perguntado e a resposta transmitida em tempo real. Uma página de Console exibe gráficos de temperatura, potência e carga de GPU e CPU nos últimos dois minutos ou na última hora.

Modelos de decisão também são suportados. Ao carregar um modelo como o d1 Omni 600M, o console pode responder à API /v1/systemone da Ollaya, retornando escolhas tipadas, pontuações e respostas de sim ou não com probabilidades calibradas em uma fração de segundo. Modelos com projetores de imagem, incluindo Gemma 4, Mini CPM-V e d1, podem processar imagens no chat e nas decisões.

O desempenho varia conforme o modelo. Em um PS5 Slim, o Qwen 3.5 9B (Q4_K_M, 5,3 GB) alcança cerca de 55 tokens por segundo, enquanto o Qwen 3.5 0.8B, menor, roda a 207 tokens por segundo. O planejador integrado lê cada GGUF e seleciona o maior contexto e o melhor cache que caibam na memória disponível. A configuração exige um PS5 com jailbreak no firmware 7.00 a 13.60 e os payloads listados; depois disso, o aplicativo pode baixar modelos do Hugging Face diretamente para o armazenamento interno, o drive M.2 ou um pen drive USB.

PS5LM — открытый проект, который превращает взломанную PS5 в личный сервер моделей дома. Он запускает llama.cpp на GPU консоли, загружает любую модель GGUF и предоставляет её ноутбукам, телефонам и инструментам для программирования в вашей сети. Во время работы не нужны ни ПК, ни облако, ни аккаунт.

Консоль предоставляет API OpenAI /v1/chat/completions и Anthropic /v1/messages, поэтому Claude Code может работать с ней, а страница чата открывается в любом браузере. Интерфейс на телевизоре показывает каждый входящий запрос в виде чата: какое устройство обратилось, что было спрошено и потоковый ответ. Страница Console строит графики температуры, мощности, загрузки GPU и CPU за последние две минуты или последний час.

Поддерживаются и модели решений. Загрузив модель вроде d1 Omni 600M, консоль может отвечать на API /v1/systemone от Ollaya, возвращая типизированные варианты, оценки и ответы «да или нет» с откалиброванными вероятностями за доли секунды. Модели с проекторами изображений, включая Gemma 4, Mini CPM-V и d1, могут обрабатывать картинки в чате и при принятии решений.

Производительность зависит от модели. На PS5 Slim Qwen 3.5 9B (Q4_K_M, 5,3 ГБ) выдаёт около 55 токенов в секунду, а меньшая Qwen 3.5 0.8B работает со скоростью 207 токенов в секунду. Встроенный планировщик читает каждый GGUF и выбирает наибольший контекст и лучший кэш, которые помещаются в свободную память. Для настройки нужна PS5 с взломом на прошивке от 7.00 до 13.60 и перечисленными payload-модулями; после этого приложение может загружать модели с Hugging Face прямо во внутреннюю память, на диск M.2 или USB-накопитель.

PS5LM 是一个开源项目,可将越狱的 PS5 变为家中的私有模型服务器。它在主机的 GPU 上运行 llama.cpp,加载任意 GGUF 模型,并将其提供给网络中的笔记本电脑、手机和编程工具。运行期间无需电脑、云端或账户。

主机提供 OpenAI 的 /v1/chat/completions 和 Anthropic 的 /v1/messages 接口,因此 Claude Code 可以直接与其配合使用,任何浏览器都能打开聊天页面。电视界面会将每个传入请求显示为一段对话,包括提出请求的设备、请求内容以及流式输出的回复。控制台页面可显示最近两分钟或一小时内的温度、功耗、GPU 和 CPU 负载图表。

系统还支持决策模型。加载 d1 Omni 600M 等模型后,主机即可响应 Ollaya 的 /v1/systemone 接口,在瞬间返回带有校准概率的类型化选项、评分以及是/否答案。包含图像投影器的模型(包括 Gemma 4、Mini CPM-V 和 d1)可以在聊天和决策中处理图片。

性能因模型而异。在 PS5 Slim 上,Qwen 3.5 9B(Q4_K_M,5.3 GB)约可达到每秒 55 个 token,而体积较小的 Qwen 3.5 0.8B 可达每秒 207 个 token。内置规划器会读取每个 GGUF 文件,并选择可用内存允许的最长上下文和最佳缓存。使用前需要一台固件版本为 7.00 至 13.60 的越狱 PS5,并加载所列的载荷程序;之后,应用可直接从 Hugging Face 将模型下载到内置存储、M.2 硬盘或 U 盘中。