Qualcomm menyoroti peningkatan pada NPU Hexagon Snapdragon 8 Elite Gen 6 Pro yang akan datang sebelum Snapdragon Summit tanggal 22 September. NPU baru ini dirancang untuk AI agen, dengan Element Accelerator yang berfokus pada transformer dan memori bersama yang 50% lebih besar yang menyimpan data model yang sering diakses agar tetap dekat dengan NPU. Desain ini mengurangi bottleneck memori, memungkinkan agen tetap responsif saat menangani konteks yang lebih panjang, lebih banyak alat, dan tugas yang berjalan secara bersamaan.

Element Accelerator dirancang khusus untuk beban kerja transformer yang menggerakkan AI generatif dan agen modern. Digabungkan dengan ekstensi skalar, vektor, dan matriks, ia mempercepat operasi yang kritis untuk model besar, membantu agen merespons lebih cepat dan berpikir lebih efisien tanpa mengorbankan efisiensi daya seluler. Qualcomm juga klaim peningkatan kecepatan prefill untuk model INT4 hingga 50%.

NPU ini sangat cocok untuk model Campuran Ahli (MoE), yang hanya mengaktifkan sebagian kecil parameter per token. Secara keseluruhan, Hexagon NPU baru ini dirancang untuk AI yang terus-menerus berjalan, penalaran konteks panjang, model multimodal, agen yang berjalan secara bersamaan, dan loop tindakan dengan latensi rendah.