PS5LM est un projet open source qui transforme une PS5 jailbreakée en serveur de modèles privé à domicile. Il exécute llama.cpp sur le GPU de la console, charge n'importe quel modèle GGUF et le met à disposition des ordinateurs portables, téléphones et outils de programmation de votre réseau. Aucun PC, cloud ni compte n'est nécessaire pendant son fonctionnement.
La console expose les API /v1/chat/completions d'OpenAI et /v1/messages d'Anthropic, ce qui permet à Claude Code de travailler avec elle, et une page de chat fonctionne dans tout navigateur. L'interface de la télévision affiche chaque requête entrante sous forme de conversation, avec l'appareil demandeur, la question posée et la réponse en flux continu. Une page Console présente des graphiques de température, de puissance et de charge du GPU et du CPU sur les deux dernières minutes ou la dernière heure.
Les modèles de décision sont également pris en charge. En chargeant un modèle comme d1 Omni 600M, la console peut répondre à l'API /v1/systemone d'Ollaya, en renvoyant des choix typés, des scores et des réponses oui ou non avec des probabilités calibrées en une fraction de seconde. Les modèles dotés de projecteurs d'images, dont Gemma 4, Mini CPM-V et d1, peuvent traiter des images dans le chat et dans les décisions.
Les performances varient selon le modèle. Sur une PS5 Slim, Qwen 3.5 9B (Q4_K_M, 5,3 Go) atteint environ 55 tokens par seconde, tandis que le plus petit Qwen 3.5 0.8B fonctionne à 207 tokens par seconde. Le planificateur intégré lit chaque GGUF et sélectionne le contexte le plus long et le meilleur cache qui tiennent dans la mémoire disponible. L'installation nécessite une PS5 jailbreakée en firmware 7.00 à 13.60 avec les payloads indiqués ; ensuite, l'application peut télécharger des modèles depuis Hugging Face directement vers le stockage interne, le disque M.2 ou une clé USB.
Source: Hacker News · Résumé par HeadlinesBriefing