HeadlinesBriefing favicon HeadlinesBriefing.com

Perplexity Lança Computação Híbrida para Tarefas AI Divididas

Engadget •
×

Perplexity anunciou Computação Híbrida, uma nova função que divide as tarefas AI entre modelos fronterizos baseados em nuvem e LLMs locais que rodam na máquina do utilizador. A ferramenta, integrada ao aplicativo Mac da Perplexity, detecta automaticamente conteúdo sensível e solicita aos usuários que mantenham dados confidenciais em seu dispositivo. Um novo classificador de privacidade sugere quais arquivos devem permanecer locais, e os usuários podem rever essas decisões antes do processamento começar.

Advogados preparando briefings de caso e outros profissionais que lidam com informações sensíveis são citados como casos de uso chave. Opções de modelo local incluem Gemma 2B e duas variantes do modelo de 35 bilhões de parâmetros da Qwen, uma das quais foi pós-treinada pela Perplexity. O sistema não requer acesso terminal para instalação e exibe uso em tempo real de CPU, GPU e memória.

Os usuários podem enfileirar tarefas via iPhone e evitar cobranças de tokens para processamento local. Jon Staff da Perplexity observou que modelos totalmente baseados na nuvem ainda produzem saídas superiores, mas a Computação Híbrida oferece um equilíbrio entre privacidade, custo e capacidade. Disponível atualmente apenas em Macs com chip Apple Silicon que executem macOS 15, a função requer no mínimo 32 GB de memória unificada e está disponível para assinantes Pro, Max e enterprise.