Rewolucja w agentowej AI: Platforma Nvidia Blackwell Ultra obsługuje 20-krotnie więcej agentów na megawat niż jej poprzednik

Laboratorium analityczne Artificial Analysis opublikowało właśnie pierwsze wyniki swojego przełomowego testu wydajności – AA-AgentPerf. To zupełnie nowa kategoria benchmarku, która nie skupia się już na prostych, jednoetapowych odpowiedziach chatbota, lecz mierzy zdolność infrastruktury do obsługi złożonych, wieloetapowych zadań charakterystycznych dla tak zwanej agentowej AI. A premierowe rezultaty nie pozostawiają złudzeń: nowa architektura Nvidii, Blackwell Ultra, zmiata z planszy wszystko, co było przed nią .

AgentPerf: Nowy egzamin dojrzałości dla infrastruktury AI

Do tej pory branżowe benchmarki, takie jak MLPerf, koncentrowały się głównie na szybkości generowania pojedynczych odpowiedzi (tzw. single-turn inference). AgentPerf idzie o krok dalej. Mierzy on, jak wiele współbieżnych, autonomicznych agentów AI – na przykład asystentów programistycznych – może jednocześnie obsłużyć dany system, spełniając przy tym rygorystyczne cele wydajnościowe (ang. Service-Level Objectives, SLO), takie jak minimalna prędkość generowania tekstu i maksymalny czas do uzyskania pierwszego tokena (TTFT) .

Jak to działa w praktyce? Benchmark odtwarza rzeczywiste, złożone sekwencje działań agentów programistycznych, zaczerpnięte z publicznych repozytoriów kodu w ponad 12 językach programowania. Pojedyncze zadanie agenta to nie jedno, a seria zapytań do modelu językowego (LLM), symulowanych wywołań zewnętrznych narzędzi (z realistycznymi opóźnieniami procesora) i stale rosnące okno kontekstowe . Wyniki są normalizowane, aby pokazać wydajność na jeden akcelerator oraz – co kluczowe z punktu widzenia ekonomii i ekologii centrów danych – na jedną megawatogodzinę (MWh) zużytej energii. W pierwszej rundzie testów użyto modelu DeepSeek V4 Pro, dużego modelu klasy Mixture-of-Experts (MoE), reprezentatywnego dla dzisiejszych najbardziej zaawansowanych agentów .

Nvidia GB300 NVL72 – konkretne liczby i miażdżąca przewaga

W teście z modelem DeepSeek V4 Pro, platforma Nvidia GB300 NVL72, będąca sercem architektury Blackwell Ultra, osiągnęła „najwyższą wydajność spośród wszystkich testowanych platform” . Przewaga nad poprzednią generacją jest kolosalna:

• Do 20 razy więcej współbieżnych agentów na megawat w porównaniu z systemem Nvidia HGX H200 (opartym na architekturze Hopper), zarówno przy rygorystycznym progu 20 tokenów na sekundę, jak i wymagającym 60 tokenów na sekundę .
• W najbardziej podstawowym, najmniej wymagającym scenariuszu SLO (20 tokenów/s i 10 sekund na pierwszy token), zdemontowana konfiguracja rack-scale GB300 obsłużyła jednocześnie 61 340 agentów. Dla porównania, konkurencyjny układ AMD MI355X osiągnął wynik 3 551 agentów, a poprzednia generacja Nvidii (H200) zaledwie 2 594 .

Te liczby to nie tylko sucha statystyka – to dowód, że architektura Nvidii potrafi obsłużyć całe rzesze cyfrowych pracowników przy radykalnie niższym śladzie energetycznym, co bezpośrednio przekłada się na koszty operacyjne firm wdrażających agentową AI.

Poza benchmarkiem: Strategia Nvidii na erę „fabryk AI” i Blackwell Ultra

Te spektakularne wyniki w AgentPerf nie są dziełem przypadku. To część szeroko zakrojonej strategii Nvidii, która pozycjonuje Blackwell Ultra jako platformę numer jeden dla skalowalnej, komercyjnej agentowej AI.

1. Opowieść o pełnej optymalizacji stosu (full-stack)
Nvidia przypisuje 20-krotny wzrost wydajności ekstremalnej koordynacji sprzętu i oprogramowania. Kluczowe elementy to:

• NVLink, spinający 72 układy GPU w jednolitą, ultraszybką strukturę obliczeniową.
• Jądra CUDA, które nakładają na siebie komunikację i obliczenia, co jest szczególnie istotne dla modeli MoE.
• Optymalizacje TensorRT-LLM, takie jak WideEP/DeepEP, DeepGEMM i tzw. fused MoE, które utrzymują wysoką efektywność nawet przy ogromnej liczbie współbieżnych sesji agentów .

2. Dominacja na wszystkich frontach benchmarków
AgentPerf to najnowszy dodatek do rosnącej kolekcji testów, w której Blackwell Ultra już wcześniej ustanawiał rekordy. W testach MLPerf Inference v5.1 platforma osiągnęła 1,4-krotnie większą przepustowość dla modelu DeepSeek-R1 niż Blackwell poprzedniej generacji , a w MLPerf Training v5.1 zmiażdżyła konkurencję, wygrywając wszystkie siedem testów treningowych . Łącznie daje to Nvidii 291 zwycięstw w historii MLPerf – dziewięć razy więcej niż wszyscy pozostali uczestnicy razem wzięci .

3. Dowody z ekosystemu, nie tylko z laboratorium
Nvidia podkreśla, że Blackwell to nie tylko „bestia benchmarkowa”, ale platforma gotowa do wdrożeń produkcyjnych. Partnerzy tacy jak Together AI (zasilający agentowe kodowanie w edytorze Cursor) i DeepInfra (wspierający cyfrową siłę roboczą Pam.ai) już teraz uruchamiają na niej komercyjne obciążenia agentowe .

4. Wizja przyszłości: Vera Rubin i dalsza droga
Nvidia nie spoczywa na laurach. W oficjalnym blogu firma wyraźnie zapowiada, że kolejnym krokiem w zwiększaniu mocy dla agentowej AI będzie architektura nowej generacji o nazwie kodowej Vera Rubin, która – jak zdradzono – jest już w produkcji . Wcześniejsze analizy techniczne wspominają o skoku do 50 PFLOPS mocy obliczeniowej w formacie NVFP4 i jeszcze lepszej akceleracji wywołań narzędzi przez modele .

Podsumowując, premiera benchmarku AgentPerf i wyniki Nvidii to coś więcej niż kolejny wpis w tabeli rekordów. To sygnał dla całej branży, że sprzęt dojrzał do obsługi nowej generacji autonomicznych, wieloetapowych aplikacji AI – a Blackwell Ultra, z jej bezprecedensową efektywnością energetyczną, wyrasta na fundament tej transformacji.