HeadlinesBriefing HeadlinesBriefing.com

Intel GPU D270: ইনফারেন্স-অপ্টিমাইজড ডেটা সেন্টার GPU

Hacker News •
×

Intel Intel GPU D270 লঞ্চ করেছে, ইনফারেন্স-অপ্টিমাইজড ডেটা সেন্টার GPU, এজেন্টিক AI যুগের জন্য। দীর্ঘ কন্টেক্সট, বহু ধাপ workflow এবং উচ্চ সঞ্চয় সেশন পরিচালনা করার জন্য ডিজাইন করা হয়েছে।

480 GB LPDDR5X মেমরি সহ, D270 শক্তিশালী মেমরি-বাধা ইনফারেন্স প্রাধান্য করে, HBM প্রয়োজন না। 32 Xᵉ3P কোর এবং 256 XMX ইঞ্জিন ব্যবহার করে প্রিফিল প্রসেসিং ত্বরিত করে, দীর্ঘ কন্টেক্সট এবং এজেন্টিক অ্যাপ্লিকেশন-এর খরচ কমায়।

মানক-standard PCIe 5.0 infrastructures-তে নির্মিত, D270 350W হवा냉িং ব্যবহার করে,液冷 রিট্রোফিট প্রয়োজন না। এটি vLLM এবং PyTorch মতো ওপেন মডেল এবং ফ্রেমওয়ার্ক সমর্থন করে, যাenterprise AI, SaaS, GPUaaS এবং সওরিন ক্লাউড ডিপ্লয়মেন্ট জন্য উপयुक्त।

主要使用案例包括 এজেন্টিক AI, দীর্ঘ কন্টেক্সট RAG,enterprise assistants, কোডিং টুল, ডকুমেন্ট অন্ডারস্ট্যান্ডিং, এবং multimodal inference। D270 die এর আ area গ্রাফিক্স পাইপলাইন থেকে ম্যাট্রিক্স কম্পিউটিংে পুনর্বিতরণ করে, ইনফারেন্স দক্ষতা বাড়ায় terwijl কম-bits থেকে FP64 কাজের লক্ষ্যে সঠিকতা বজায় রাখে।

উৎস: Hacker News · সারাংশ: HeadlinesBriefing