HeadlinesBriefing favicon HeadlinesBriefing.com

Perplexity запускает Гибридный вычисление для разделенных задач ИИ

Engadget •
×

Perplexity объявил о новом функционале Гибридного вычисления, который делит задачи ИИ между облачными фронтальными моделями и локальными LLM, работающими на компьютере пользователя. Инструмент, интегрированный в приложение Mac Perplexity, автоматически обнаруживает чувствительный контент и просит пользователей хранить конфиденциальные данные на своем устройстве. Новый классificador приватности предлагает, какие файлы должны оставаться локальными, и пользователи могут просмотреть эти решения перед началом обработки. Юристам, готящим деловые бумаги, и другим профессионалам, работающим с чувствительными сведениями, приведены в качестве ключевых случаев использования. Локальные варианты моделей включают Gemma 2B и две вариации модели Qwen с 35 миллиардами параметров, одна из которых после प्रशिक्षения Perplexity. Система не требует доступа к терминалу для установки и отображает реальное использование CPU, GPU и памяти. Пользователи могут ставить задачи в очередь через iPhone и избежать тарифов токенов для локальной обработки. Jon Staff из Perplexity отметил, что полностью облачные модели все еще производят более качественные выходные данные, но Гибридное вычисление предлагает баланс между приватностью, стоимостью и возможностями. В настоящее время функция доступна только на Mac с Apple Silicon, работающих под управлением macOS 15, и требует минимум 32 ГБ объединенной памяти, доступна подписчикам Pro, Max и enterprise.