Laboratorium AI Tiongkok semakin meningkat pesanan akselerator AI domestik, dan salah satu laboratorium AI terkemuka, Deep Seek, reportedly telah memesan 160.000 chip Huawei Ascend 950DT. Akhir tahun lalu, Huawei mengungkapkan bahwa perusahaan sedang menyiapkan serangkaian chip dan solusi skala rack untuk memenuhi permintaan AI domestik, dan kini kita mulai melihat pesanan berskala besar mulai terwujud.

Sebagai referensi, akselerator AI Huawei Ascend 950DT memiliki kapasitas memori 144 GB, berdasarkan desain memori HBM dalam negeri Huawei. Solusi dalam negeri ini memberikan bandwidth hampir 4 TB/s, yang selaras dengan visi Huawei. Chip ini mampu mencapai sekitar 1 PetaFLOP performa puncak FP8 atau sekitar 2 PetaFLOPS FP4 per chip.

Deep Seek, salah satu laboratorium AI terkemuka Tiongkok, akan menggunakan chip Ascend 950DT dari Huawei untuk operasi inferensi skala besar dan akan menerapkannya di satu pusat data yang terletak di Mongolia Tengah. Seluruh sistem akan memberikan performa puncak sebesar 160 ExaFLOPS pada presisi FP8 atau sekitar 320 ExaFLOPS pada presisi FP4. Sistem ini juga akan memiliki total memori HBM sekitar 23 PB, yang berarti operasi inferensi skala besar akan mampu melayani ribuan pengguna secara simultan tanpa masalah apa pun.

Entitas Utama: Perusahaan: Huawei, Deep Seek, TechPowerUp | Lokasi: Mongolia Tengah