Qualcomm está antecipando melhorias na NPU Hexagon do seu próximo Snapdragon 8 Elite Gen 6 Pro antes da Cúpula Snapdragon em 22 de setembro. O novo NPU é projetado para IA agente, apresentando um Element Accelerator focado em transformadores e uma memória compartilhada 50% maior que mantém os dados de modelo frequentemente acessados próximos à NPU. Esse design reduz os gargalos de memória, permitindo que os agentes permaneçam responsivos enquanto lidam com contextos mais longos, mais ferramentas e tarefas simultâneas.

O Element Accelerator é projetado especificamente para cargas de trabalho de transformadores que impulsionam a IA generativa e agente moderna. Combinado com extensões escalares, vetoriais e matriciais, ele acelera operações críticas para modelos grandes, ajudando os agentes a responderem mais rápido e a raciocinarem de forma mais eficiente sem comprometer a eficiência energética móvel. Qualcomm também afirma até 50% mais rápido de prefill para modelos INT4.

O NPU é bem adequado para modelos de Mistura de Especialistas (MoE), que ativam apenas uma fração dos parâmetros por token. No geral, o novo NPU Hexagon é projetado para IA sempre em execução, raciocínio de longo contexto, modelos multimodais, agentes simultâneos e loops de ação de baixa latência.