Qwen3.8-27B iPhone 18 के Neural Engine पर 15 से 70 टोकन प्रति सेकंड की गति से चलता है, और प्रति वेट 1.5 बिट का उपयोग करता है। यह मॉडल प्रति वेट 1.5 बिट पर इनपुट प्रोसेस करता है, जिससे डिवाइस पर कुशल इनफेरेंस संभव होता है। यह विकास मोबाइल AI क्षमताओं में एक महत्वपूर्ण कदम है, जो उन्नत भाषा मॉडल को स्मार्टफोन हार्डवेयर तक ले आता है। प्रदर्शन मेट्रिक्स से संकेत मिलता है कि Apple का Neural Engine उल्लेखनीय दक्षता के साथ बड़े पैमाने के AI वर्कलोड संभाल सकता है। उद्योग विशेषज्ञ एज कंप्यूटिंग और गोपनीयता-संरक्षित AI अनुप्रयोगों पर इसके प्रभावों की ओर ध्यान दिला रहे हैं। यह उपलब्धि मोबाइल चिप डिज़ाइन और परिष्कृत मशीन लर्निंग मॉडलों के बढ़ते संगम को दर्शाती है। संभावित उपयोगों में रियल-टाइम अनुवाद, डिवाइस पर कंटेंट निर्माण और बेहतर Siri कार्यक्षमता शामिल हैं। बेंचमार्क परिणाम पिछले मोबाइल AI प्रयासों की तुलना में अनुकूल हैं, जो इस क्षेत्र की परिपक्वता का संकेत देते हैं।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित