HeadlinesBriefing favicon HeadlinesBriefing.com

Perplexity Luncurkan Hybrid Compute untuk Tugas AI yang Dipisah

Engadget •
×

Perplexity telah mengumumkan Hybrid Compute, fitur baru yang membagi tugas AI antara model fronterawan awan dan LLM lokal yang berjalan pada mesin pengguna. Alat ini terintegrasi ke dalam aplikasi Mac Perplexity, secara otomatis mendeteksi konten sensitif dan meminta pengguna untuk menjaga data rahasia di perangkat mereka. Klasifikasi privasi baru menyarankan file mana yang harus tetap lokal, dan pengguna dapat memeriksa keputusan ini sebelum pemrosesan dimulai.

Pengacara yang menyusun ringkasan kasus dan profesional lain yang menangani informasi sensitif disebut sebagai kasus penggunaan kunci. Opsi model lokal meliputi Gemma 2B dan dua varian model Qwen 35 miliar parameter, salah satunya dilatih ulang oleh Perplexity. Sistem tidak memerlukan akses terminal untuk instalasi dan menampilkan penggunaan CPU, GPU, dan memori secara real-time.

Pengguna dapat menugaskan tugas melalui iPhone dan menghindari biaya token untuk pemrosesan lokal. Jon Staff dari Perplexity menegaskan bahwa model cloud sepenuhnya masih menghasilkan output superior, tetapi Hybrid Compute menawarkan keseimbangan antara privasi, biaya, dan kemampuan. Saat ini hanya tersedia pada Apple Silicon Mac yang menjalankan macOS 15, fitur ini memerlukan setidaknya 32GB memori terintegrated dan tersedia untuk Pro, Max, dan enterprise subscriber.