HeadlinesBriefing favicon HeadlinesBriefing.com

Perplexity लॉन्च करता है हैब्रिड कंप्यूट, विभाजित AI कार्यों के लिए

Engadget •
×

Perplexity ने हैब्रिड कंप्यूट की घोषणा की है, जो क्लाउड-आधारित फ्रंटियर मॉडल और उपयोगकर्ता के मशीन पर चलने वाले स्थानीय LLM के बीच AI कार्यों को विभाजित करता है। इस टूल को Perplexity Mac ऐप में एकीकृत किया गया है, जो स्वचालित रूप से संवेदनशील सामग्री का पता लगाता है और उपयोगकर्ताओं को अपने उपकरण पर गोपनीय डेटा रखने के लिए प्रेरित करता है। एक नई गोपनीयता वर्गीकरण यह सुझाव देती है कि कौन सी फ़ाइलें स्थानीय रहनी चाहिए, और उपयोगकर्ता प्रसंस्करण शुरू होने से पहले इन निर्णयों की समीक्षा कर सकते हैं। केस ब्रिफ़ तैयार कर रहे वकील और अन्य संवेदनशील जानकारी संभालने वाले पेशेवरों को प्रमुख उपयोग के मामले के रूप में उद्धृत किया गया है। स्थानीय मॉडल विकल्प में Gemma 2B और Qwen के 35-बिलियन पैरामीटर मॉडल के दो वेरिएंट शामिल हैं, जिनमें से एक वेरिएंट Perplexity द्वारा pós-प्रशिक्षित किया गया है। प्रणाली स्थापना के लिए टर्मिनल एक्सेस की आवश्यकता नहीं है और वास्तविक समय में CPU, GPU और स्मृति उपयोग प्रदर्शित करती है। उपयोगकर्ता iPhone के माध्यम से कार्यों को कतारबद्ध कर सकते हैं और स्थानीय प्रसंस्करण के लिए टोकन शुल्क से बच सकते हैं। Perplexity के Jon Staff ने नोट किया कि पूरी तरह से क्लाउड-आधारित मॉडल अभी भी बेहतर आउटपुट उत्पन्न करते हैं, लेकिन हैब्रिड कंप्यूट privateness, लागत और क्षमता के बीच एक संतुलन प्रदान करता है। फिलहाल यह केवल Apple Silicon Macs पर उपलब्ध है जो macOS 15 चला रहे हैं, और सुविधा कम से कम 32GB एकीकृत स्मृति की मांग करती है। यह Pro, Max और एंटरप्राइज सब्सक्राइबर्स के लिए सुलभ है।