Google ने TorchTPU को ओपन-सोर्स किया है, जो एक PyTorch बैकएंड है और उपयोगकर्ताओं को Google के Tensor Processing Units (TPUs) पर PyTorch मॉडल और ऑपरेशन चलाने में सक्षम बनाता है। इस प्रोजेक्ट में कई PyTorch ऑपरेशनों के लिए कस्टम ATen कर्नेल, XLA कंप्यूटेशन के निष्पादन को अनुकूलित करने के लिए एक कंपाइलेशन कैश, और डिस्ट्रीब्यूटेड ट्रेनिंग एवं मॉडल इंफ़रेंस के उदाहरण शामिल हैं।
मुख्य विशेषताओं में Data Parallelism और Tensor Parallelism के माध्यम से डिस्ट्रीब्यूटेड ट्रेनिंग का समर्थन, ग्राफ़ मोड निष्पादन के लिए torch.compile() के साथ एकीकरण, और डिबगिंग तथा बेंचमार्किंग के लिए उपयोगिताएँ शामिल हैं। उदाहरण मॉडलों में Llama, Qwen, ResNet, DLRM, minGPT और UNet शामिल हैं।
एक उपयोगकर्ता गाइड और इंटरैक्टिव Marimo नोटबुक उपलब्ध हैं, जो Jupyter के समान हैं। नोटबुक को TPU VM से चलाना होगा, और सबसे आसान विकल्प के रूप में v6e GCE इंस्टेंस की सिफारिश की गई है। PyTorch की रिलीज़ संगतता मैट्रिक्स के अनुरूप, वर्तमान में Python 3.11 और उसके बाद के संस्करण समर्थित हैं।
नवीनतम सार्वजनिक रिलीज़, संस्करण 0.2.0, को pip के माध्यम से PyPI से इंस्टॉल किया जा सकता है, जिसमें एक अतिरिक्त इंडेक्स से PyTorch का CPU बिल्ड उपयोग होता है। डेवलपर Bazel के साथ सोर्स से wheels भी बना सकते हैं, जिसमें अनुकूलित बिल्ड डिफ़ॉल्ट रूप से सक्षम हैं, और जिनके पास क्रेडेंशियल नहीं हैं उनके लिए Remote Build Execution को अक्षम करने का विकल्प है।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित