Google TorchTPU ওপেন-সোর্স করেছে, যা একটি PyTorch ব্যাকএন্ড এবং ব্যবহারকারীদের Google-এর Tensor Processing Units (TPU)-এ PyTorch মডেল ও অপারেশন চালাতে সক্ষম করে। এই প্রকল্পে বিভিন্ন PyTorch অপারেশনের জন্য কাস্টম ATen কার্নেল, XLA গণনার কার্যকর নির্বাহ অপ্টিমাইজ করার জন্য একটি কম্পাইলেশন ক্যাশ, এবং ডিস্ট্রিবিউটেড ট্রেনিং ও মডেল ইনফারেন্সের উদাহরণ অন্তর্ভুক্ত রয়েছে।
প্রধান বৈশিষ্ট্যগুলোর মধ্যে রয়েছে Data Parallelism ও Tensor Parallelism-এর মাধ্যমে ডিস্ট্রিবিউটেড ট্রেনিং সমর্থন, গ্রাফ মোড এক্সিকিউশনের জন্য torch.compile()-এর সাথে ইন্টিগ্রেশন, এবং ডিবাগিং ও বেঞ্চমার্কিংয়ের জন্য ইউটিলিটি। উদাহরণ মডেলগুলোর মধ্যে Llama, Qwen, ResNet, DLRM, minGPT ও UNet অন্তর্ভুক্ত।
একটি ব্যবহারকারী গাইড এবং ইন্টারঅ্যাক্টিভ Marimo নোটবুক পাওয়া যায়, যা Jupyter-এর মতো। নোটবুকগুলো একটি TPU VM থেকে চালাতে হবে, এবং সবচেয়ে সহজ বিকল্প হিসেবে একটি v6e GCE ইনস্ট্যান্স সুপারিশ করা হয়। PyTorch-এর রিলিজ সামঞ্জস্য ম্যাট্রিক্স অনুযায়ী বর্তমানে Python 3.11 এবং তার পরবর্তী সংস্করণ সমর্থিত।
সর্বশেষ পাবলিক রিলিজ, সংস্করণ 0.2.0, pip ব্যবহার করে PyPI থেকে ইনস্টল করা যাবে, যেখানে একটি অতিরিক্ত ইনডেক্স থেকে PyTorch-এর CPU বিল্ড ব্যবহৃত হবে। ডেভেলপাররা Bazel ব্যবহার করে সোর্স থেকেও wheel তৈরি করতে পারবেন; অপ্টিমাইজড বিল্ড ডিফল্টভাবে সক্রিয় থাকে, এবং যাদের ক্রেডেনশিয়াল নেই তাদের জন্য Remote Build Execution নিষ্ক্রিয় করার বিকল্প রয়েছে।
উৎস: Hacker News · সারাংশ: HeadlinesBriefing