PS5LM adalah proyek terbuka yang mengubah PS5 yang sudah di-jailbreak menjadi server model pribadi di rumah. Ia menjalankan llama.cpp di GPU konsol, memuat model GGUF apa pun, dan melayaninya ke laptop, ponsel, serta alat pemrograman di jaringan Anda. Tidak diperlukan PC, cloud, atau akun selama program berjalan.
Konsol menyediakan API /v1/chat/completions dari OpenAI dan /v1/messages dari Anthropic, sehingga Claude Code dapat bekerja dengannya, dan halaman chat berfungsi di browser apa pun. Antarmuka TV menampilkan setiap permintaan masuk sebagai obrolan, termasuk perangkat yang bertanya, apa yang ditanyakan, dan balasan yang dialirkan. Halaman Console menampilkan grafik suhu, daya, serta beban GPU dan CPU selama dua menit atau satu jam terakhir.
Model keputusan juga didukung. Dengan memuat model seperti d1 Omni 600M, konsol dapat menjawab API /v1/systemone dari Ollaya, mengembalikan pilihan bertipe, skor, dan jawaban ya-atau-tidak dengan probabilitas terkalibrasi dalam sekejap. Model dengan proyektor gambar, termasuk Gemma 4, Mini CPM-V, dan d1, dapat memproses gambar dalam chat dan keputusan.
Performa bervariasi tergantung model. Pada PS5 Slim, Qwen 3.5 9B (Q4_K_M, 5,3 GB) mencapai sekitar 55 token per detik, sedangkan Qwen 3.5 0.8B yang lebih kecil berjalan pada 207 token per detik. Perencana bawaan membaca setiap GGUF dan memilih konteks terpanjang serta cache terbaik yang muat dalam memori yang tersedia. Penyiapannya memerlukan PS5 yang sudah di-jailbreak dengan firmware 7.00 hingga 13.60 dan payload yang tercantum; setelah itu aplikasi dapat mengunduh model dari Hugging Face langsung ke penyimpanan internal, drive M.2, atau drive USB.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing