HeadlinesBriefing favicon HeadlinesBriefing.com

স্যামসাং LPDDR5X-PIM: মেমরিতে প্রসেসিং

Hacker News •
×

মেমরিতে কম্পিউটিং মেমরি চিপের ভিতরে উচ্চতর অভ্যন্তরীণ ব্যান্ডউইডথের সুবিধা নেয়, DRAM এবং প্রথাগত কম্পিউট কোরের মধ্যে দীর্ঘ লেটেন্সি এড়িয়ে যায়। হট চিপস ২০২৬-এ, স্যামসাং তার LPDDR5X-PIM বাস্তবায়নের বিবরণ দিয়েছে, LPDDR5X চিপের ১৬টি ব্যাংকের প্রতিটিতে প্রসেসিং-ইন-মেমরি (PIM) ব্লক রাখা হয়েছে, সাথে সাথে স্ট্যান্ডার্ড মেমরি কন্ট্রোলার সামঞ্জস্যতা রক্ষা করা হয়েছে। প্রতিটি PIM ব্লকে রেজিস্টার ফাইল এবং কন্ট্রোল লজিক সহ একটি MAC ট্রি রয়েছে, যা এক্সটারনাল বাস দ্বারা সীমাবদ্ধ না হয়ে DRAM ব্যাংক অ্যাক্সেস করে। একসাথে, সমস্ত ১৬টি ব্যাংক ৬১৪ GB/s অভ্যন্তরীণ ব্যান্ডউইডথ অর্জন করে, যেখানে রেগুলার DRAM দুটি ব্যাংক প্যারালেলে অ্যাক্সেস করে শুধু ৭৬.৮ GB/s। MAC অ্যারে প্রতিটি ডেটা ক্লকে চারটি INT8 বা FP8 অপারেশন ধারণ করে, প্যাকেজ-ওয়াইড ২.৪ TOPS এ পৌঁছায়। আটটি LPDDR5X চিপ ৯.৬ INT8 TOPS দেবে, যা ইন্টেলের মিটিওর লেক NPU-র সাথে তুলনাযোগ্য। স্যামসাং বিশেষ রো অ্যাড্রেস ব্যবহার করে MMIO কন্ট্রোল হিসেবে স্ট্যান্ডার্ড LPDDR5X প্রোটোকল বজায় রাখে। সিঙ্গল-ব্যাংক মোড স্বাভাবিকভাবে কাজ করে, যখন মাল্টি-ব্যাংক মোড সকল ১৬টি ব্যাংকে কমান্ড ব্রডকাস্ট করে। PIM রেজিস্টার এক্টিভেটেড মোড রিড/রাইট কমান্ডকে DRAM-এর পরিবর্তে PIM রেজিস্টারের দিকে রিডাইরেক্ট করে। সফটওয়্যার সিঙ্গল-ব্যাংক মোডে মডেল ওজন লোড করে, তারপর মাল্টি-ব্যাংক মোডে স্যুইচ করে এক্টিভেশন মান PIM সোর্স রেজিস্টারে লিখে, স্কেল ফ্যাক্টর সেট করে, এবং ইনস্ট্রাকশন রেজিস্টারের মাধ্যমে অপারেশন নির্দিষ্ট করে। এটি মেমরির ভিতরে একটি কনস্ট্রেইন্ড SIMD প্রসেসর তৈরি করে।