গুগলের টেনসর প্রসেসিং ইউনিট (TPU) প্রথমবার 2015 সালে অভ্যন্তরীণভাবে স্থাপন করা হয়েছিল, ডেটা সেন্টারে ক্লাউড-ভিত্তিক মেশিন লার্নিং ওয়ার্কলোডের জন্য একটি মালিকানাধীন AI ত্বরণক হিসেবে। GPU-এর বিপরীতে, TPUs সিস্টলিক অ্যারে আর্কিটেকচার ব্যবহার করে — একটি 2D গ্রিড এর গুণক, যা গণনার ফলাফলকে মেমোরিতে লিখে ফেরত দেওয়া না করে সরাসরি পরবর্তী ইউনিটে পাস করে, যা বড় পরিমাণে বড় ভাষা মডেল (LLM) প্রশিক্ষণের বোতলনেককে দূর করে।これにより、TPUs Anthropic এবং Midjourney जैसी कंपनियों के लिए अधिक ऊर्जा-कुशल बनते हैं, जो प्रतिदिन बिलियनों AI अनुरोधों की सेवा करते हैं।

TPU শব্দটি हाल ही में উপভোগকরণ ডিভাইস-এ উপস্থিত হয়েছে, পিক্সেল ১১ স্মার্টফোনের গুগল টেনসর G6 চিপে, যা দাবি করে 50 শতাংশ বেশি TPU কম্পিউট। তবে, এই ডিভাইস-ভিত্তিক TPU আপেক্ষিকভাবে একটি নিউরাল প্রসেসিং ইউনিট (NPU) হিসেবে কাজ করে, ক্যামেরা প্রসেসিং এবং স্থানীয় AI কাজोंকে পরিচালনা করে। গুগল দাবি করে পূর্বের প্রজন্মের তুলনায় AI প্রসেসিংয়ে পর্যন্ত ৩.৫ গুণ দ্রুত এবং শক্তি ব্যবহারে পর্যন্ত ৩.৫ গুণ কম।

GPU এখনও গেমিং, ৩D রেন্ডারিং, AI প্রশিক্ষণ এবং ক্রিপ্টো মাইনিং-এর জন্য বহুমুখী «সব কাজে দক্ষ» চিপ। আধুনিক স্মার্টফোন, ম্যাক এবং পিসিতে NPUs ডিভাইস-এ জেনারেটিভ AI যেমন ফটো এডিটিং এবং ChatGPT কাজগুলোকে পরিচালনা করে। মূল পার্থক্যগুলো স্কেল এবং ব্যবহারের ক্ষেত্রে নिहিত: TPUs ক্লাউড-স্কেল AI-এ প্রাধান্য পায়, NPUs এবং ডিভাইস-ভিত্তিক TPUs ব্যবহারকারী ডিভাইস-কে পরিষেবা দেয়, যখন GPU উভয় দुनিয়াকে বিস্তৃত নমনীয়তার সাথে সংযুক্ত করে।

মुख্য entidades: কোম্পানিগুলো: গুগল, Anthropic, Midjourney, অ্যাপল, AMD

সामान्य প্রশ্ন: TPU-এর সিস্টলিক অ্যারে আর্কিটেকচার এবং GPU-এর মেমোরি আর্কিটেকচারের মধ্যে কি পার্থক্য?

একটি TPU-এর সিস্টলিক অ্যারে ২D গ্রিডের গুণক ইউনিটগুলোর মধ্যে ডেটা সরাসরি পাস করে, মেমোরিতে লিখে ফেরত না করে; ενώ একটি GPU-কে কম্পিউট ইউনিট এবং উচ্চ-ব্যান্ডউইথ মেমোরির মধ্যে ডেটা চক্রিত করতে হয়, যা স্কেলে বোতলনেক তৈরি করে।