Perplexity hat Hybrid Compute eingeführt, eine neue Funktion, die AI-Aufgaben zwischen Cloud-Frontier-Modellen und lokalen LLMs auf dem Rechner des Nutzers aufteilt. Das Tool ist in die Perplexity Mac App integriert und erkennt automatisch sensible Inhalte und fordert Nutzer auf, vertrauliche Daten auf ihrem Gerät zu behalten. Ein neuer Privatsphäre-Klassifikator schlägt vor, welche Dateien lokal bleiben sollten, und Nutzer können diese Entscheidungen überprüfen, bevor die Verarbeitung beginnt.

Für die Vorbereitung von Fallunterlagen und andere Profis, die mit sensiblen Informationen umgehen, werden als Schlüsselanwendungsfälle genannt. Lokale Modelloptionen umfassen Gemma 2B und zwei Varianten des Qwen-Modells mit 35 Milliarden Parametern, wobei eine Variante von Perplexity post- trainiert wurde. Das System erfordert keinen Terminal-Zugriff für die Installation und zeigt die aktuelle CPU-, GPU- und Speichernutzung in Echtzeit an.

Nutzer können Aufgaben über iPhone in die Warteschlange einreihen und Token-Gebühren für lokale Verarbeitung vermeiden. Jon Staff von Perplexity bemerkte, dass vollständig cloudbasierte Modelle immer noch überlegene Outputs produzieren, aber Hybrid Compute ein Gleichgewicht zwischen Privatsphäre, Kosten und Fähigkeit bietet. Derzeit nur auf Apple Silicon Macs verfügbar, die macOS 15 ausführen, und die Funktion erfordert mindestens 32 GB unified memory und ist Abonnenten von Pro, Max und enterprise vorbehalten.