クアルコムは、9月22日のスナップドラゴンサミット前に、次世代スナップドラゴン 8 エリート ジェネレーション 6 プロのHexagon NPUの改善を示唆しています。新しいNPUはエージェントAIのために設計されており、トランスフォーマーに特化したElement Acceleratorと50%大きい共有メモリを備えており、頻繁にアクセスされるモデルデータをNPUに近い場所に保持します。この設計により、メモリボトルネックが軽減され、エージェントはより長いコンテキスト、より多くのツール、そして同時実行タスクを処理しながらも応答性を維持できます。Element Acceleratorは、現代の生成AIおよびエージェントAIを駆動するトランスフォーマー ワークロードのために特別に構築されています。スカラー、ベクトル、およびマトリックス拡張と組み合わせることで、大規模モデルにとって重要な操作を加速し、エージェントがより高速に応答し、効率的に推論できるようにし、モバイルの電力効率を損なうことなく実現します。クアルコムはまた、INT4モデルのプリフィルが50%高速になると主張しています。このNPUは、トークンごとにパラメータの一部しかアクティベートしないMixture-of-Experts (MoE)モデルに適しています。全体として、新しいHexagon NPUは、常時稼働AI、長文脈推論、マルチモーダルモデル、同時実行エージェント、および低レイテンシーアクションループのために設計されています。