Perplexity a annoncé le Calcul Hybride, une nouvelle fonctionnalité qui divise les tâches AI entre les modèles frontiers basés dans le cloud et les LLMs locaux s'exécutant sur la machine de l'utilisateur. L'outil, intégré à l'application Mac de Perplexity, détecte automatiquement le contenu sensible et invite les utilisateurs à garder les données confidentielles sur leur appareil. Un nouveau classificateur de confidentialité suggère quels fichiers doivent rester locaux, et les utilisateurs peuvent examiner ces décisions avant le début du traitement.

Des avocats préparant des notes de dossier et d'autres professionnels traitant des informations sensibles sont cités comme cas d'utilisation clés. Les options de modèle local incluent Gemma 2B et deux variantes du modèle de 35 milliards de paramètres de Qwen, dont l'une a été post-entraînée par Perplexity. Le système ne nécessite pas l'accès terminal pour l'installation et affiche une utilisation en temps réel du CPU, GPU et mémoire.

Les utilisateurs peuvent mettre en file d'attente des tâches via iPhone et éviter les frais de tokens pour le traitement local. Jon Staff de Perplexity a noté que les modèles entièrement basés dans le cloud produisent toujours des sorties supérieures, mais le Calcul Hybride offre un équilibre entre confidentialité, coût et capacité. Actuellement, la fonctionnalité n'est disponible que sur les Mac Apple Silicon exécutant macOS 15, et elle nécessite au moins 32 Go de mémoire unifiée, et est accessible aux abonnés Pro, Max et enterprise.