Qualcomm tease des améliorations de la NPU Hexagon de son prochain Snapdragon 8 Elite Gen 6 Pro avant le Snapdragon Summit du 22 septembre. Le nouveau NPU est conçu pour l'IA agente, comportant un Element Accelerator axé sur les transformateurs et une mémoire partagée 50 % plus grande qui garde les données de modèle fréquemment consultées proches de la NPU. Cette conception réduit les goulets d'étranglement mémoire, permettant aux agents de rester réactifs tout en gérant des contextes plus longs, plus d'outils et des tâches simultanées.

L'Element Accelerator est spécifiquement conçu pour les charges de travail des transformateurs qui alimentent l'IA générative et agente moderne. Associé aux extensions scalaires, vectorielles et matricielles, il accélère les opérations critiques pour les grands modèles, aidant les agents à répondre plus rapidement et à raisonner plus efficacement sans compromettre l'efficacité énergétique mobile. Qualcomm affirme également une amélioration pouvant atteindre 50 % de la vitesse de prefill pour les modèles INT4.

Le NPU est particulièrement adapté aux modèles de Mélange d'Experts (MoE), qui n'activent qu'une fraction des paramètres par jeton. Dans l'ensemble, le nouveau NPU Hexagon est conçu pour l'IA toujours en cours d'exécution, le raisonnement à long contexte, les modèles multimodaux, les agents simultanés et les boucles d'action à faible latence.