HeadlinesBriefing favicon HeadlinesBriefing.com

Perplexity Lanza Computación Híbrida para Tareas AI Divididas

Engadget •
×

Perplexity ha anunciado Computación Híbrida, una nueva función que divide las tareas AI entre modelos fronterizos basados en la nube y LLMs locales que se ejecutan en la máquina del usuario. La herramienta, integrada en la aplicación Mac de Perplexity, detecta automáticamente contenido sensible y pide a los usuarios que mantengan los datos confidenciales en su dispositivo. Un nuevo clasificador de privacidad sugiere qué archivos deben permanecer locales, y los usuarios pueden revisar estas decisiones antes de que comience el procesamiento.

Se citan a abogados que preparan resumés de casos y otros profesionales que manejan información sensible como casos de uso clave. Las opciones de modelo local incluyen Gemma 2B y dos variantes del modelo de 35 mil millones de parámetros de Qwen, una de las cuales ha sido post-entrenada por Perplexity. El sistema no requiere acceso terminal para la instalación y muestra el uso en tiempo real de CPU, GPU y memoria.

Los usuarios pueden hacer cola de tareas mediante iPhone y evitar cargos de tokens para el procesamiento local. Jon Staff de Perplexity señaló que los modelos completamente basados en la nube aún producen salidas superiores, pero la Computación Híbrida ofrece un equilibrio entre privacidad, costo y capacidad. Actualmente solo disponible en Macs con chip Apple Silicon que ejecuten macOS 15, la función requiere al menos 32 GB de memoria unificada y está dirigida a suscriptores Pro, Max y enterprise.