PS5LM ist ein Open-Source-Projekt, das eine jailbreakte PS5 in einen privaten Modellserver für zu Hause verwandelt. Es führt llama.cpp auf der GPU der Konsole aus, lädt jedes beliebige GGUF-Modell und stellt es Laptops, Smartphones und Programmierwerkzeugen in Ihrem Netzwerk zur Verfügung. Während des Betriebs sind kein PC, keine Cloud und kein Konto erforderlich.
Die Konsole stellt die APIs /v1/chat/completions von OpenAI und /v1/messages von Anthropic bereit, sodass Claude Code mit ihr arbeiten kann, und eine Chat-Seite funktioniert in jedem Browser. Die Oberfläche auf dem Fernseher zeigt jede eingehende Anfrage als Chat an, einschließlich des anfragenden Geräts, der Frage und der gestreamten Antwort. Eine Konsolenseite zeigt Diagramme zu Temperatur, Leistung sowie GPU- und CPU-Auslastung der letzten zwei Minuten oder der letzten Stunde.
Entscheidungsmodelle werden ebenfalls unterstützt. Beim Laden eines Modells wie d1 Omni 600M kann die Konsole auf die API /v1/systemone von Ollaya antworten und liefert typisierte Auswahlmöglichkeiten, Bewertungen und Ja-oder-Nein-Antworten mit kalibrierten Wahrscheinlichkeiten in einem Bruchteil einer Sekunde. Modelle mit Bildprojektoren, darunter Gemma 4, Mini CPM-V und d1, können Bilder im Chat und bei Entscheidungen verarbeiten.
Die Leistung hängt vom Modell ab. Auf einer PS5 Slim erreicht Qwen 3.5 9B (Q4_K_M, 5,3 GB) etwa 55 Token pro Sekunde, während das kleinere Qwen 3.5 0.8B mit 207 Token pro Sekunde läuft. Der integrierte Planer liest jede GGUF-Datei und wählt den längsten Kontext und den besten Cache, die in den verfügbaren Speicher passen. Die Einrichtung erfordert eine jailbreakte PS5 mit Firmware 7.00 bis 13.60 und den aufgeführten Payloads; danach kann die App Modelle von Hugging Face direkt auf den internen Speicher, die M.2-Festplatte oder einen USB-Stick herunterladen.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing