HeadlinesBriefing HeadlinesBriefing.com

PS5LM: ejecutar LLM GGUF en PS5 con jailbreak

Hacker News •
×

PS5LM es un proyecto abierto que convierte una PS5 con jailbreak en un servidor de modelos privado en casa. Ejecuta llama.cpp en la GPU de la consola, carga cualquier modelo GGUF y lo sirve a portátiles, teléfonos y herramientas de programación de tu red. No se requiere PC, nube ni cuenta mientras está en funcionamiento.

La consola expone las API /v1/chat/completions de OpenAI y /v1/messages de Anthropic, por lo que Claude Code puede trabajar con ella, y una página de chat funciona en cualquier navegador. La interfaz de la televisión muestra cada solicitud entrante como un chat, incluyendo qué dispositivo la envió, qué pidió y la respuesta transmitida. Una página de consola muestra gráficos de temperatura, potencia y carga de GPU y CPU de los últimos dos minutos o de la última hora.

También se admiten modelos de decisión. Al cargar un modelo como d1 Omni 600M, la consola puede responder a la API /v1/systemone de Ollaya, devolviendo opciones tipificadas, puntuaciones y respuestas de sí o no con probabilidades calibradas en una fracción de segundo. Los modelos con proyectores de imagen, incluidos Gemma 4, Mini CPM-V y d1, pueden procesar imágenes en el chat y en las decisiones.

El rendimiento varía según el modelo. En una PS5 Slim, Qwen 3.5 9B (Q4_K_M, 5,3 GB) alcanza unos 55 tokens por segundo, mientras que el Qwen 3.5 0.8B, más pequeño, funciona a 207 tokens por segundo. El planificador integrado lee cada GGUF y selecciona el contexto más largo y la mejor caché que quepan en la memoria disponible. La configuración requiere una PS5 con firmware de 7.00 a 13.60 y jailbreak, con los payloads indicados; después, la aplicación puede descargar modelos de Hugging Face directamente al almacenamiento interno, a la unidad M.2 o a una memoria USB.

Fuente: Hacker News · Resumido por HeadlinesBriefing