PS5LM 是一个开源项目,可将越狱的 PS5 变为家中的私有模型服务器。它在主机的 GPU 上运行 llama.cpp,加载任意 GGUF 模型,并将其提供给网络中的笔记本电脑、手机和编程工具。运行期间无需电脑、云端或账户。
主机提供 OpenAI 的 /v1/chat/completions 和 Anthropic 的 /v1/messages 接口,因此 Claude Code 可以直接与其配合使用,任何浏览器都能打开聊天页面。电视界面会将每个传入请求显示为一段对话,包括提出请求的设备、请求内容以及流式输出的回复。控制台页面可显示最近两分钟或一小时内的温度、功耗、GPU 和 CPU 负载图表。
系统还支持决策模型。加载 d1 Omni 600M 等模型后,主机即可响应 Ollaya 的 /v1/systemone 接口,在瞬间返回带有校准概率的类型化选项、评分以及是/否答案。包含图像投影器的模型(包括 Gemma 4、Mini CPM-V 和 d1)可以在聊天和决策中处理图片。
性能因模型而异。在 PS5 Slim 上,Qwen 3.5 9B(Q4_K_M,5.3 GB)约可达到每秒 55 个 token,而体积较小的 Qwen 3.5 0.8B 可达每秒 207 个 token。内置规划器会读取每个 GGUF 文件,并选择可用内存允许的最长上下文和最佳缓存。使用前需要一台固件版本为 7.00 至 13.60 的越狱 PS5,并加载所列的载荷程序;之后,应用可直接从 Hugging Face 将模型下载到内置存储、M.2 硬盘或 U 盘中。
来源: Hacker News · 由HeadlinesBriefing整理摘要