Nowy Hexagon NPU od Qualcommu ma obsłużyć agentów AI bezpośrednio w smartfonie

Qualcomm zapowiada, że kolejna platforma Snapdragon klasy premium będzie projektowana z myślą o dłuższych, wielomodalnych zadaniach AI wykonywanych lokalnie — na samym telefonie. Najważniejszym elementem tej zapowiedzi jest przeprojektowany Hexagon NPU, czyli wyspecjalizowany procesor do obliczeń neuronowych, przeznaczony dla generatywnej AI i tzw. agentów AI. 1

Co zmienia się w Hexagon NPU

Nowy NPU dostaje Element Accelerator — dedykowany blok dla obciążeń opartych na transformerach. To właśnie transformery stanowią podstawę wielu modeli generatywnych, językowych i wielomodalnych. Akcelerator nie zastępuje dotychczasowych zasobów skalarnych, wektorowych i tensorowych, lecz ma je uzupełniać. 111

Qualcomm informuje też o 50% większej pamięci współdzielonej w NPU niż w poprzedniej konstrukcji. Ma to ograniczyć konieczność wielokrotnego pobierania często używanych danych modelu z pamięci systemowej podczas pracy agenta AI z dłuższym kontekstem, narzędziami i równoległymi zadaniami. Producent nie podał jednak bezwzględnej pojemności tej pamięci. 15

Kontekst do 32 tys. tokenów i szybsze przetwarzanie polecenia

Według Qualcommu odświeżona architektura Hexagon obsługuje kontekst do 32 000 tokenów oraz przyspieszanie pamięci podręcznej klucz-wartość (KV cache). W praktyce większy kontekst pozwala modelowi zachować więcej treści rozmowy, dokumentu albo historii wykonywanego zadania w czasie lokalnej sesji. 1112

Firma deklaruje również do 50% szybszy prefill dla modeli INT4. Prefill to etap, w którym model analizuje początkowe polecenie użytkownika i buduje kontekst roboczy przed wygenerowaniem odpowiedzi. Nie należy więc interpretować tej wartości jako gwarancji o 50% szybszego generowania każdego kolejnego tokenu w każdej aplikacji czy modelu. NPU obsługuje formaty precyzji od INT2 i INT4 po INT8, FP8 i FP16. 16

„30 miliardów parametrów” wymaga ważnego doprecyzowania

Qualcomm eksponuje obsługę modeli Mixture-of-Experts (MoE) z maksymalnie 30 miliardami parametrów łącznie. W przywołanym przykładzie na pojedynczy token aktywowanych jest około 3 miliardów parametrów. 6

To istotna różnica. W modelu MoE mechanizm routingu wybiera do danego tokenu lub zadania tylko część wyspecjalizowanych komponentów modelu. Deklaracja nie oznacza zatem, że smartfon wykonuje obliczenia na wszystkich 30 miliardach parametrów dla każdego tokenu. Możliwość działania zależy od selektywnej aktywacji ekspertów, konkretnego modelu, implementacji i konfiguracji urządzenia. 113

NPU to tylko jeden z trzech silników Snapdragona

Zapowiedź NPU uzupełnia wcześniejsze informacje o CPU i GPU kolejnej platformy. Ośmiordzeniowy procesor Oryon ma mieć dwa rdzenie Prime taktowane do 5 GHz oraz sześć rdzeni Performance. Architektura FlexCache daje heterogenicznym rdzeniom CPU dostęp do dynamicznie przydzielanej wspólnej puli cache. 2122

Po stronie grafiki Qualcomm przedstawił rdzenie Adreno Matrix Cores oraz 18 MB pamięci Adreno High Performance Memory. Technologia Neural Fusion ma łączyć przetwarzanie neuronowe, AI super resolution i generowanie klatek w jednym potoku graficznym. Qualcomm twierdzi, że w odpowiednich zadaniach renderowania może to obniżyć zużycie energii nawet o 40%; jest to deklaracja producenta, a nie wynik niezależnego testu porównawczego. 1723

W skrócie Qualcomm opisuje podział zadań lokalnej AI tak:

• Hexagon NPU: energooszczędne wnioskowanie modeli AI i zadania w stylu agentów;
• Oryon CPU: ogólne obliczenia, logika aplikacji i zadania, które nie pasują dobrze do wyspecjalizowanego akceleratora;
• Adreno GPU: równoległe obliczenia dla obrazu i grafiki, w tym renderowanie wspomagane przez AI.

Kluczowy przekaz nie brzmi więc: „każda funkcja AI działa na NPU”. Qualcomm przedstawia CPU, GPU i NPU jako uzupełniające się jednostki, które producenci urządzeń mogą wykorzystywać w różnych częściach doświadczenia AI działającego na urządzeniu.

Czego jeszcze nie ujawniono

Dotychczasowe materiały są zapowiedzią architektury, a nie kompletną specyfikacją platformy. Snapdragon Summit zaplanowano na 22–24 września w Maui na Hawajach. 31

Do tego czasu warto traktować ujawnione informacje jako wskazanie kierunku technicznego, a nie pełny obraz wydajności. Qualcomm nadal nie podał bezwzględnej pojemności pamięci współdzielonej ani pełnych, niezależnie weryfikowalnych wyników wydajności i efektywności energetycznej nowego NPU. 5 Dopiero finalne ogłoszenia pokażą, jak te możliwości zostaną skonfigurowane w konkretnych produktach Snapdragon i jak przełożą się na gotowe smartfony.