Qualcomm tease Verbesserungen an der Hexagon NPU seines kommenden Snapdragon 8 Elite Gen 6 Pro vor dem Snapdragon Summit am 22. September. Der neue NPU ist für agente KI konzipiert und verfügt über einen transformerfokussierten Element Accelerator sowie einen 50 % größeren gemeinsamen Speicher, der häufig zugriffene Modelldaten nahe bei der NPU hält.

Dieses Design reduziert Speicherengpässe, sodass Agenten auch bei längerem Kontext, mehr Tools und gleichzeitigen Aufgaben reaktionsfähig bleiben. Der Element Accelerator ist speziell für Transformer-Workloads entwickelt, die moderne generative und agente KI antreiben. Kombiniert mit skalaren, vektoriellen und matrixbasierten Erweiterungen beschleunigt er Vorgänge, die für große Modelle entscheidend sind, sodass Agenten schneller reagieren und effizienter schließen können, ohne die mobile Energieeffizienz zu beeinträchtigen.

Qualcomm behauptet zudem eine Verbesserung der Prefill-Geschwindigkeit für INT4-Modelle um bis zu 50 %. Der NPU eignet sich besonders gut für Mixture-of-Experts (MoE)-Modelle, die pro Token nur einen Bruchteil der Parameter aktivieren. Insgesamt ist der neue Hexagon NPU für ständig laufende KI, langkontextuelles Denken, multimodale Modelle, gleichzeitige Agenten und niedrige Latenz-Aktionsschleifen ausgelegt.