Chiński kryzys mocy obliczeniowej AI przenosi się z trenowania na wnioskowanie

Największym wąskim gardłem jest dziś obsługa użytkowników

Chińska branża sztucznej inteligencji coraz wyraźniej odczuwa ograniczenia już po wytrenowaniu modeli. Gdy narzędzia AI trafiają do masowego użytku konsumenckiego i biznesowego, muszą obsługiwać ogromną liczbę zapytań — często generowanych przez agentów, którzy rozumują, korzystają z zewnętrznych narzędzi i wykonują wieloetapowe zadania.

W efekcie kluczowym ograniczeniem staje się nie tylko moc potrzebna do trenowania modeli, lecz także zdolność do ich sprawnego i niezawodnego wnioskowania (inference), czyli generowania odpowiedzi dla użytkowników.

Trening modelu to dopiero początek

Trening tworzy model, natomiast wnioskowanie to etap, w którym wytrenowany system wykorzystuje zdobytą wiedzę do odpowiadania na pytania i wykonywania poleceń. Część takich obciążeń można przenieść na chińskie akceleratory. Nie oznacza to jednak, że lokalny sprzęt jest pełnym zamiennikiem zaawansowanych układów Nvidia.

W najbardziej wymagających zastosowaniach liczy się jednocześnie wydajność obliczeniowa, pamięć, niezawodność oraz dojrzałość oprogramowania. Dlatego chińskie firmy muszą zarządzać środowiskiem złożonym z różnych typów sprzętu. Krajowe akceleratory mogą obsługiwać część zadań, podczas gdy ograniczona pula wysokiej klasy procesorów Nvidia jest rezerwowana dla obciążeń, których trudniej zastąpić. Szczególnym problemem mają być złożone zadania związane z programowaniem.

Dlaczego agenci i programowanie pochłaniają tak dużo mocy

Prosta rozmowa z chatbotem może wymagać stosunkowo niewielkiej ilości obliczeń. Asystent programistyczny albo autonomiczny agent działa inaczej: musi utrzymywać długi kontekst, generować kod, korzystać z narzędzi, sprawdzać rezultaty i wielokrotnie poprawiać własną odpowiedź.

To zmienia ekonomię całej usługi. Nie chodzi już wyłącznie o liczbę posiadanych chipów, lecz o to, ile wartościowej pracy można na nich wykonać przy zachowaniu odpowiedniej jakości i stabilności. Jeśli krajowe procesory radzą sobie słabiej z wymagającym programowaniem i rozumowaniem, całkowite odejście od układów Nvidia może obniżyć jakość lub efektywność działania. Najcenniejsze karty trzeba więc przydzielać do zadań, w których różnica jest największa.

Token tokenowi nierówny

Liczba tokenów — podstawowych jednostek tekstu przetwarzanych przez modele językowe — jest użytecznym miernikiem popytu, ale nie opisuje jednolitych obciążeń. Proste odpowiedzi lub klasyfikację można kierować do tańszego sprzętu. Natomiast wysokiej jakości odpowiedź z mocniejszego modelu, dłuższym procesem rozumowania albo wielokrotnym użyciem narzędzi wymaga większej mocy i może mieć dla klienta znacznie wyższą wartość.

Dlatego wzrost całkowitej liczby tokenów może maskować jeszcze ostrzejszy niedobór „premium” wnioskowania. Rynek może generować coraz więcej tokenów, a jednocześnie mieć coraz mniej sprzętu zdolnego do tworzenia niezawodnych wyników w złożonych zadaniach. To właśnie ta różnica napędza inwestycje w produkcję wysokiej jakości tokenów oraz systemy łączące różne rodzaje mocy obliczeniowej.

Popyt rośnie szybciej niż infrastruktura

Według danych przytaczanych za chińską Krajową Administracją Danych średnia dzienna liczba wywołań tokenów w Chinach przekroczyła w marcu 2026 roku 140 bilionów. Na początku 2024 roku było ich około 100 miliardów — oznacza to wzrost o ponad tysiąc razy.

Ta skala pokazuje, że sztuczna inteligencja wychodzi z fazy eksperymentów i pojedynczych promptów. Modele są coraz częściej wykorzystywane w asystentach, oprogramowaniu dla przedsiębiorstw i agentach wykonujących rzeczywiste procesy. Wnioskowanie staje się więc jednym z głównych źródeł zużycia mocy obliczeniowej, a nie tylko etapem następującym po kosztownym treningu.

Oprogramowanie to najszybsza dostępna dźwignia

Pozyskanie większej liczby zaawansowanych procesorów jest trudne z powodu kontroli eksportu ograniczających dostęp do najnowszych produktów Nvidia, ograniczonej podaży oraz wysokich kosztów wymiany całego ekosystemu sprzętowego. Chińskie firmy muszą też liczyć się z tym, że modele, narzędzia i wewnętrzne procesy zostały zbudowane wokół istniejących platform programistycznych.

Optymalizacja oprogramowania nie tworzy nowych chipów, ale pozwala wycisnąć więcej użytecznej pracy z każdego dostępnego procesora. W praktyce obejmuje ona między innymi:

• Kierowanie obciążeniem: prostsze zapytania trafiają do tańszych lub krajowych akceleratorów, a karty Nvidia są zachowywane dla złożonych zadań.
• Sprawniejsze udostępnianie modeli: lepsze grupowanie i planowanie zapytań ogranicza czas, w którym sprzęt pozostaje bezczynny.
• Świadome gospodarowanie zasobami: rozmiar modelu, długość kontekstu i sposób generowania odpowiedzi są dopasowywane do wartości oraz trudności danego zapytania.
• Infrastruktura heterogeniczna: różne architektury chipów są integrowane zamiast zmuszać każdy typ obciążenia do działania na jednej platformie.

Takie rozwiązania są pomostem między rosnącym popytem a ograniczoną podażą. Nie zastąpią jednak w pełni najbardziej zaawansowanego sprzętu, zwłaszcza gdy jakość wyników zależy od węższej grupy procesorów.

Trudna matematyka biznesu

Kryzys pogłębia presja na ceny usług wnioskowania. Analitycy Jefferies szacują, że chińskie modele kosztują średnio około jedną szóstą tego, ile za token pobierają główne firmy amerykańskie.

Niskie ceny mogą przyspieszać adopcję, ale jednocześnie ograniczają przychody, które można przeznaczyć na zakup deficytowej mocy obliczeniowej. Asystenci programistyczni i produkty oparte na agentach zużywają przy tym więcej zasobów niż zwykły czat.

Chińskie firmy AI mierzą się więc z potrójną presją: popyt rośnie bardzo szybko, klienci oczekują taniego dostępu, a najbardziej wydajnej infrastruktury do wnioskowania nie da się łatwo zwiększyć ani zastąpić. Napięcie to przełożyło się już na dostępność usług. Według doniesień część dużych chińskich twórców modeli i dostawców chmury ograniczała przepustowość, racjonowała dostęp lub podnosiła ceny, gdy popyt przewyższał dostępną moc — szczególnie w przypadku wymagających asystentów programistycznych.

To nie jest wyłącznie problem liczby chipów

Chiński kryzys infrastruktury AI nie sprowadza się do braku procesorów. Chodzi o niedobór konkretnego połączenia: zaawansowanych układów, kompatybilnego oprogramowania oraz opłacalnej mocy do obsługi wartościowych zadań wnioskowania.

Krajowy sprzęt może przejąć większą część obciążenia, jeśli poprawi się oprogramowanie, a wdrożenia zostaną zaprojektowane z myślą o jego mocnych stronach. Na razie dane wskazują jednak na strategię przejściową: optymalizować każdy etap wnioskowania, używać chińskich chipów tam, gdzie sprawdzają się najlepiej, i zachowywać ograniczoną pulę Nvidia dla najtrudniejszych zadań.

To pozwala przedłużyć życie istniejącej infrastruktury, ale nie rozwiązuje problemu na stałe. Dalszy rozwój AI opartej na agentach będzie zależał od tego, czy Chiny zdołają zwiększyć zarówno podaż sprzętu, jak i możliwości ekosystemu programistycznego, który pozwala efektywnie łączyć różne procesory.