Qualcomm、新Hexagon NPUで端末内AIエージェントを強化へ　3.2万トークンの長文脈に対応

Qualcommは9月9日、次世代のプレミアムSnapdragonプラットフォームに向けた新しい「Hexagon NPU」の概要を明らかにした。焦点は、クラウドへ送らずスマートフォン本体で動かす、生成AIやAIエージェントのような長時間・マルチモーダルの処理だ。新設計では、Transformer向けの専用ハードウェアと、より大きなローカル共有メモリを導入する。1

何が変わるのか：Transformer専用の新ブロック

最大の変更点は、Transformer系ワークロードを対象とする専用ブロック「Element Accelerator」の追加だ。Transformerは、対話型AIや画像・音声も扱うマルチモーダルモデルを含む、多くの生成AIの基盤となるモデル構造である。

このアクセラレータは既存のスカラー、ベクター、テンソル系の演算リソースを置き換えるものではなく、それらと並行して働く位置付けだ。111

また、NPUの共有メモリは従来設計から50％拡大した。頻繁に参照されるモデルデータをNPUの近くに置き、システムメモリとのデータ転送を減らすことで、長い文脈、複数ツールの利用、同時タスクを扱うAIエージェントの応答性を維持する狙いがある。なお、Qualcommは共有メモリの絶対容量を公表していない。15

最大3.2万トークンの文脈と、初動を速めるprefill

Qualcommによると、新Hexagonアーキテクチャは最大3万2,000トークンのコンテキスト長をサポートし、KVキャッシュの高速化も備える。1112

コンテキスト長は、AIモデルが1回の端末内セッションで参照・保持できる会話履歴、文書、作業の経緯の大きさに関わる。長くなるほど、例えば長文資料を前提にした対話や、途中経過を踏まえたタスク処理を継続しやすくなる。

さらにQualcommは、INT4モデルでprefillを最大50％高速化するとしている。prefillとは、ユーザーの入力を最初に読み込み、回答を生成する前の作業コンテキストを組み立てる段階を指す。この数値は、すべてのアプリやモデルで出力トークンの生成速度が50％上がるという意味ではない。対応精度はINT2、INT4、INT8、FP8、FP16に及ぶ。16

「300億パラメータ対応」はMoEが前提

Qualcommは、総パラメータ数が最大300億のMixture-of-Experts（MoE）モデルを動かせるとしている。ただし、同社が挙げた例では、各トークンで実際に有効化するのはおよそ30億パラメータだ。6

MoEは、入力やタスクに応じてルーティング機構がモデルの一部（専門家＝Expert）だけを選んで処理する方式である。したがって、この主張は「毎トークン、300億パラメータすべてをスマホで計算する」という意味ではない。実現性は、必要なExpertだけを選択する仕組みのほか、モデル、実装、端末構成に左右される。113

NPUだけで完結しない、Snapdragonの3エンジン戦略

今回のNPU発表は、先行して示された次世代Oryon CPUとAdreno GPUの情報につながる。Oryon CPUは8コア構成で、最大5GHzのPrimeコア2基とPerformanceコア6基を搭載する予定だ。異種CPUコアが動的に割り当てられる共通キャッシュプールへアクセスできる「FlexCache」も採用する。2122

GPU側では、Adreno Matrix Coresと18MBのAdreno High Performance Memoryが発表されている。「Adreno Neural Fusion」は、ニューラル処理、AI超解像、フレーム生成をグラフィックスパイプラインに統合する技術だ。Qualcommは対象となる描画処理で消費電力を最大40％削減できるとしているが、これは同社による主張であり、独立したベンチマーク結果ではない。1723

全体像は、端末内AIを単一の演算器に任せない、異種プロセッサの使い分けである。

• Hexagon NPU：AIモデルの効率的な推論、AIエージェント型の継続処理
• Oryon CPU：汎用処理、アプリのロジック、専用アクセラレータに適さない処理
• Adreno GPU：並列的な視覚AIやグラフィックスAI、AI支援レンダリング

重要なのは、スマホのAI機能が必ずNPUだけで動くわけではない点だ。Qualcommは、端末メーカーが用途ごとにCPU、GPU、NPUを組み合わせ、低遅延で端末内に留まるAI体験を構成する考え方を示している。

まだ明らかになっていない点

今回の内容はアーキテクチャの事前公開であり、完全なプラットフォーム仕様ではない。Snapdragon Summitは米ハワイ州マウイで9月22日から24日にかけて開催予定だ。31

購入を検討するユーザーや開発者にとって、現段階の発表は性能の全体像というより、Qualcommがどの方向へ進むかを示すものと見るのが妥当だ。共有メモリの実容量、NPUの絶対的な演算性能、電力効率を含む第三者検証可能な詳細データは、まだ提示されていない。5 実製品での構成や、スマートフォンでどこまで体感差につながるかは、今後の正式発表を待つ必要がある。