Huawei odnotował przełomowy wynik po stronie gotowości wdrożeniowej. Połączenie Ascend 950DT z frameworkiem CANN zapewniło pełną obsługę stosu programistycznego już w dniu premiery. Według dostępnych analiz był to pierwszy przypadek, gdy platforma inna niż CUDA dorównała Nvidii pod względem gotowości do uruchomienia modelu tej klasy od pierwszego dnia .

Nie oznacza to jednak, że Huawei przejął prowadzenie w surowej wydajności. Niezależne testy Ascend 950PR wskazywały na 2,87-krotnie wyższą wydajność obliczeń FP4 niż w układzie H20 oraz do 1,96-krotnie szybsze wnioskowanie modeli MoE w zadaniach związanych z roll-outami RL . Jednocześnie szczytowa wydajność chińskiej platformy pozostaje ograniczana przez możliwości produkcji układów, więc nadal ustępuje najlepszym rozwiązaniom Nvidii.

AMD miało znacznie trudniejszy start. MI355X w dniu premiery obsługiwał wyłącznie wariant FP8, a natywny punkt kontrolny FP4+FP8 nie nadawał się jeszcze do użycia. W teście 8K/1K układ osiągał zaledwie 20,4 tokena na sekundę na GPU przy 2,4 tokena na sekundę na użytkownika . Problemem nie był wyłącznie sprzęt, lecz niedopracowany stos ROCm.

AMD i 110,5-krotny wzrost w 26 dni

Kolejne tygodnie przyniosły jedną z najbardziej spektakularnych popraw wydajności napędzanych oprogramowaniem w infrastrukturze AI. Zespół AMD SGLang, pracujący pod kierownictwem technicznym HaiShawa, w ciągu 26 dni scalił 31 próśb o wprowadzenie optymalizacji w bocznej gałęzi amd/deepseek_v4 .

Poprawki dotyczyły kolejnych warstw stosu ROCm, które wcześniej nie były odpowiednio sprawdzone z modelem MoE tej skali. 20 maja 2026 roku, w 26. dniu testów, MI355X osiągnął 2256 tokenów na sekundę na GPU przy 9,4 tokena na sekundę na użytkownika w obciążeniu 8K/1K. Oznaczało to 110,5-krotny wzrost przepustowości na GPU, a jednocześnie 3,85-krotną poprawę interaktywności .

To rzadki przypadek, gdy oba parametry poprawiają się naraz. Zwykle zwiększenie przepustowości całego systemu odbywa się kosztem czasu odpowiedzi dla pojedynczego użytkownika. Tutaj udało się poprawić zarówno szybkość obsługi wielu żądań, jak i responsywność.

Przy porównywalnym poziomie interaktywności dane InferenceX lokują MI355X z 26. dnia w okolicach 1411 tokenów na sekundę na GPU, czyli w podobnej klasie co Nvidia B200 przy niskiej interaktywności . AMD nadal pozostaje daleko za GB300 NVL72, który w optymalnych warunkach dochodzi do 11 474 tokenów na sekundę na GPU, ale MI355X przeszedł drogę od praktycznie nieużytecznego wdrożenia do realnej platformy do wnioskowania .

Jak wygląda porównanie po 43 dniach?

Ekonomia zależy od sposobu użytkowania. Przy niskiej interaktywności GB300 NVL72 generuje tokeny za 0,064 USD za milion, czyli około 4,5 raza taniej niż MI355X przy 0,291 USD .

Przy wyższej interaktywności — a więc mniejszej współbieżności i większej szybkości odpowiedzi dla pojedynczego użytkownika — MI355X może konkurować kosztowo z B200. Przy około 23–24 równoczesnych użytkownikach oba rozwiązania mieszczą się w przedziale około 1,22–1,45 USD za milion tokenów .

Najważniejsza zmiana wydarzyła się w architekturze modelu

Same wyniki układów nie wyjaśniają jednak, dlaczego obsługa DeepSeek V4 Pro stała się w ogóle możliwa ekonomicznie. Kluczowa jest zmiana po stronie modelu.

W standardowej architekturze Transformer koszt mechanizmu uwagi rośnie bardzo szybko wraz z długością kontekstu. Przy milionie tokenów obliczenia i pamięć potrzebne do przechowywania KV cache stają się poważną barierą. DeepSeek V4 wykorzystuje zamiast tego hybrydę dwóch mechanizmów.

Compressed Sparse Attention (CSA) działa bardziej szczegółowo. Łączy około czterech tokenów w jeden wyuczony wpis KV, wykorzystując zależne od danych wagi i nakładające się okna. Następnie dla każdego zapytania wybierane są tylko najbardziej istotne skompresowane wpisy. Za ich selekcję odpowiada komponent Lightning Indexer . Równolegle działa uwaga w przesuwanym oknie, aby zachować precyzję lokalnego kontekstu .

Heavily Compressed Attention (HCA) stosuje znacznie mocniejszą kompresję. Nawet 128 tokenów może zostać sprowadzonych do jednego wpisu KV, nad którym wykonywana jest gęsta uwaga . To kompromis: szczegółowość wyszukiwania spada, ale model otrzymuje tani, szeroki obraz całego kontekstu. HCA działa we wcześniejszych warstwach, natomiast w ostatniej pozostawiono pełną uwagę, by zachować precyzję .

W porównaniu z DeepSeek V3.2, przy kontekście miliona tokenów daje to następujące rezultaty:

• 27 proc. operacji FLOP na token, czyli redukcję o 73 proc. ;
• około 10 proc. pamięci KV cache, czyli redukcję o około 90 proc. ;
• w porównaniu z bazową architekturą GQA w formacie bfloat16 — około 2 proc. pierwotnego rozmiaru cache .

W przypadku mniejszego modelu V4 Flash oszczędności są jeszcze większe: zużywa on około 10 proc. FLOP-ów i 7 proc. pamięci KV cache względem V3.2 .

Bez CSA i HCA model Pro o 1,6 biliona parametrów z kontekstem miliona tokenów byłby raczej demonstracją możliwości niż produktem, który można opłacalnie udostępniać. Dzięki tym mechanizmom długi kontekst staje się realnym scenariuszem wdrożeniowym.

Trzy wnioski dla rynku akceleratorów AI

Pierwszy wniosek jest korzystny dla Nvidii: przewaga ekosystemu CUDA pozostaje bardzo duża. Pełna obsługa od pierwszego dnia, dojrzałe narzędzia i najwyższa wydajność sprawiają, że GB300 NVL72 prowadzi zarówno pod względem przepustowości, jak i kosztu w wielu scenariuszach.

Drugi dotyczy Huawei. Ascend wraz z CANN zdołał zamknąć lukę w zakresie gotowości oprogramowania, co stanowi istotną zmianę w porównaniu z wcześniejszą sytuacją, gdy to CUDA najczęściej jako jedyna platforma oferowała pełne wsparcie dla nowych modeli od dnia premiery . Nie usuwa to jednak różnicy w dostępnej mocy obliczeniowej.

Trzeci wniosek jest lekcją dla AMD. MI355X okazał się zdolny do dużego skoku wydajności, ale wymagał intensywnego, niemal ekspedycyjnego wysiłku inżynieryjnego. Wzrost o 110,5 raza w 26 dni robi wrażenie, lecz w dojrzałym ekosystemie podobne poprawki nie powinny być konieczne przy każdym nowym modelu tej klasy.

Ostatecznie najważniejsza historia nie dotyczy jednak wyłącznie tego, który układ jest najszybszy. DeepSeek, łącząc CSA i HCA, zmienił rachunek ekonomiczny długiego kontekstu. Gdy model o 1,6 biliona parametrów może pracować z milionem tokenów, a koszt miliona tokenów na odpowiednim sprzęcie spada do poziomu pojedynczych centów, pytanie przestaje brzmieć: „czy da się to uruchomić?”. Zaczyna brzmieć: „co można na tym zbudować?”.

Huawei odnotował przełomowy wynik po stronie gotowości wdrożeniowej. Połączenie Ascend 950DT z frameworkiem CANN zapewniło pełną obsługę stosu programistycznego już w dniu premiery. Według dostępnych analiz był to pierwszy przypadek, gdy platforma inna niż CUDA dorównała Nvidii pod względem gotowości do uruchomienia modelu tej klasy od pierwszego dnia .

Nie oznacza to jednak, że Huawei przejął prowadzenie w surowej wydajności. Niezależne testy Ascend 950PR wskazywały na 2,87-krotnie wyższą wydajność obliczeń FP4 niż w układzie H20 oraz do 1,96-krotnie szybsze wnioskowanie modeli MoE w zadaniach związanych z roll-outami RL . Jednocześnie szczytowa wydajność chińskiej platformy pozostaje ograniczana przez możliwości produkcji układów, więc nadal ustępuje najlepszym rozwiązaniom Nvidii.

AMD miało znacznie trudniejszy start. MI355X w dniu premiery obsługiwał wyłącznie wariant FP8, a natywny punkt kontrolny FP4+FP8 nie nadawał się jeszcze do użycia. W teście 8K/1K układ osiągał zaledwie 20,4 tokena na sekundę na GPU przy 2,4 tokena na sekundę na użytkownika . Problemem nie był wyłącznie sprzęt, lecz niedopracowany stos ROCm.

AMD i 110,5-krotny wzrost w 26 dni

Kolejne tygodnie przyniosły jedną z najbardziej spektakularnych popraw wydajności napędzanych oprogramowaniem w infrastrukturze AI. Zespół AMD SGLang, pracujący pod kierownictwem technicznym HaiShawa, w ciągu 26 dni scalił 31 próśb o wprowadzenie optymalizacji w bocznej gałęzi amd/deepseek_v4 .

Poprawki dotyczyły kolejnych warstw stosu ROCm, które wcześniej nie były odpowiednio sprawdzone z modelem MoE tej skali. 20 maja 2026 roku, w 26. dniu testów, MI355X osiągnął 2256 tokenów na sekundę na GPU przy 9,4 tokena na sekundę na użytkownika w obciążeniu 8K/1K. Oznaczało to 110,5-krotny wzrost przepustowości na GPU, a jednocześnie 3,85-krotną poprawę interaktywności .

To rzadki przypadek, gdy oba parametry poprawiają się naraz. Zwykle zwiększenie przepustowości całego systemu odbywa się kosztem czasu odpowiedzi dla pojedynczego użytkownika. Tutaj udało się poprawić zarówno szybkość obsługi wielu żądań, jak i responsywność.

Przy porównywalnym poziomie interaktywności dane InferenceX lokują MI355X z 26. dnia w okolicach 1411 tokenów na sekundę na GPU, czyli w podobnej klasie co Nvidia B200 przy niskiej interaktywności . AMD nadal pozostaje daleko za GB300 NVL72, który w optymalnych warunkach dochodzi do 11 474 tokenów na sekundę na GPU, ale MI355X przeszedł drogę od praktycznie nieużytecznego wdrożenia do realnej platformy do wnioskowania .

Jak wygląda porównanie po 43 dniach?

Ekonomia zależy od sposobu użytkowania. Przy niskiej interaktywności GB300 NVL72 generuje tokeny za 0,064 USD za milion, czyli około 4,5 raza taniej niż MI355X przy 0,291 USD .

Przy wyższej interaktywności — a więc mniejszej współbieżności i większej szybkości odpowiedzi dla pojedynczego użytkownika — MI355X może konkurować kosztowo z B200. Przy około 23–24 równoczesnych użytkownikach oba rozwiązania mieszczą się w przedziale około 1,22–1,45 USD za milion tokenów .

Najważniejsza zmiana wydarzyła się w architekturze modelu

Same wyniki układów nie wyjaśniają jednak, dlaczego obsługa DeepSeek V4 Pro stała się w ogóle możliwa ekonomicznie. Kluczowa jest zmiana po stronie modelu.

W standardowej architekturze Transformer koszt mechanizmu uwagi rośnie bardzo szybko wraz z długością kontekstu. Przy milionie tokenów obliczenia i pamięć potrzebne do przechowywania KV cache stają się poważną barierą. DeepSeek V4 wykorzystuje zamiast tego hybrydę dwóch mechanizmów.

Compressed Sparse Attention (CSA) działa bardziej szczegółowo. Łączy około czterech tokenów w jeden wyuczony wpis KV, wykorzystując zależne od danych wagi i nakładające się okna. Następnie dla każdego zapytania wybierane są tylko najbardziej istotne skompresowane wpisy. Za ich selekcję odpowiada komponent Lightning Indexer . Równolegle działa uwaga w przesuwanym oknie, aby zachować precyzję lokalnego kontekstu .

Heavily Compressed Attention (HCA) stosuje znacznie mocniejszą kompresję. Nawet 128 tokenów może zostać sprowadzonych do jednego wpisu KV, nad którym wykonywana jest gęsta uwaga . To kompromis: szczegółowość wyszukiwania spada, ale model otrzymuje tani, szeroki obraz całego kontekstu. HCA działa we wcześniejszych warstwach, natomiast w ostatniej pozostawiono pełną uwagę, by zachować precyzję .

W porównaniu z DeepSeek V3.2, przy kontekście miliona tokenów daje to następujące rezultaty:

• 27 proc. operacji FLOP na token, czyli redukcję o 73 proc. ;
• około 10 proc. pamięci KV cache, czyli redukcję o około 90 proc. ;
• w porównaniu z bazową architekturą GQA w formacie bfloat16 — około 2 proc. pierwotnego rozmiaru cache .

W przypadku mniejszego modelu V4 Flash oszczędności są jeszcze większe: zużywa on około 10 proc. FLOP-ów i 7 proc. pamięci KV cache względem V3.2 .

Bez CSA i HCA model Pro o 1,6 biliona parametrów z kontekstem miliona tokenów byłby raczej demonstracją możliwości niż produktem, który można opłacalnie udostępniać. Dzięki tym mechanizmom długi kontekst staje się realnym scenariuszem wdrożeniowym.

Trzy wnioski dla rynku akceleratorów AI

Pierwszy wniosek jest korzystny dla Nvidii: przewaga ekosystemu CUDA pozostaje bardzo duża. Pełna obsługa od pierwszego dnia, dojrzałe narzędzia i najwyższa wydajność sprawiają, że GB300 NVL72 prowadzi zarówno pod względem przepustowości, jak i kosztu w wielu scenariuszach.

Drugi dotyczy Huawei. Ascend wraz z CANN zdołał zamknąć lukę w zakresie gotowości oprogramowania, co stanowi istotną zmianę w porównaniu z wcześniejszą sytuacją, gdy to CUDA najczęściej jako jedyna platforma oferowała pełne wsparcie dla nowych modeli od dnia premiery . Nie usuwa to jednak różnicy w dostępnej mocy obliczeniowej.

Trzeci wniosek jest lekcją dla AMD. MI355X okazał się zdolny do dużego skoku wydajności, ale wymagał intensywnego, niemal ekspedycyjnego wysiłku inżynieryjnego. Wzrost o 110,5 raza w 26 dni robi wrażenie, lecz w dojrzałym ekosystemie podobne poprawki nie powinny być konieczne przy każdym nowym modelu tej klasy.

Ostatecznie najważniejsza historia nie dotyczy jednak wyłącznie tego, który układ jest najszybszy. DeepSeek, łącząc CSA i HCA, zmienił rachunek ekonomiczny długiego kontekstu. Gdy model o 1,6 biliona parametrów może pracować z milionem tokenów, a koszt miliona tokenów na odpowiednim sprzęcie spada do poziomu pojedynczych centów, pytanie przestaje brzmieć: „czy da się to uruchomić?”. Zaczyna brzmieć: „co można na tym zbudować?”.