Ideą platformy jest połączenie całego cyklu życia aplikacji AI – od przechowywania surowych danych po wdrażanie modeli i działanie agentów – w jedną, zintegrowaną całość. Huawei argumentuje, że rozdrobniona infrastruktura spowalnia adopcję AI, dlatego zaprojektował system, w którym potoki danych, infrastruktura do wnioskowania i warstwy orkiestracji są ze sobą ściśle zintegrowane.

Pięciowarstwowa architektura

Huawei opisuje platformę jako stos pięciu warstw, z których każda obsługuje inną część korporacyjnego potoku AI.

1. Warstwa przechowywania danych

Podstawę stanowi OceanStor Pacific – rozproszona, skalowalna platforma pamięci masowej Huawei, zaprojektowana do przechowywania ogromnych zbiorów danych AI i wektorowych reprezentacji (embeddingów). System jest zoptymalizowany pod kątem dużej gęstości pojemności i przetwarzania danych na masową skalę, typowego dla środowisk trenowania i wnioskowania AI.

Huawei podaje, że OceanStor Pacific może osiągnąć do 11 petabajtów pojemności w obudowie 2U, co ma zapewnić wysoką gęstość przy jednoczesnym obniżeniu całkowitego kosztu posiadania (TCO) dla dużych centrów danych AI.

2. Warstwa zarządzania danymi

Nad magazynem danych znajduje się DME Omni-Dataverse, działająca jako ujednolicona platforma do zarządzania danymi. Agreguje ona dane i zarządza nimi w różnych środowiskach, umożliwiając:

• Pozyskiwanie danych multimodalnych
• Zarządzanie danymi w wielu lokalizacjach
• Globalną widoczność i kontrolę nad danymi
• Szybkie wyszukiwanie w bardzo dużych zbiorach wektorów

Według Huawei i doniesień prasowych, platforma jest w stanie wyszukać dane w ciągu kilku sekund w zbiorach setek miliardów wektorów, umożliwiając modelom AI dostęp do baz wiedzy i wektorowych reprezentacji na niespotykaną dotąd skalę.

3. Warstwa wdrażania modeli i wnioskowania

Kolejna warstwa koncentruje się na efektywnym uruchamianiu modeli AI.

Kluczowe technologie to:

• Context Memory Storage (CMS) – architektura pamięci przeznaczona dla dużych klastrów wnioskujących
• ModelEngine – środowisko wykonawcze Huawei do wdrażania i zarządzania modelami AI

CMS obsługuje heterogeniczne środowiska obliczeniowe i może łączyć w pulę duże zasoby pamięci podręcznej KV-cache, pomagając przyspieszyć zadania wnioskowania. Huawei twierdzi, że architektura ta może znacznie zmniejszyć opóźnienia w generowaniu pierwszego tokena podczas wnioskowania.

ModelEngine zapewnia z kolei funkcje bramy modeli oraz narzędzia do szybkiego wdrażania nowych modeli przy minimalnej konfiguracji.

4. Warstwa orkiestracji agentów AI

Huawei zaprezentował również Nexent – korporacyjną platformę dla agentów AI, która współpracuje z ModelEngine w celu orkiestracji agentów AI w procesach biznesowych.

Celem jest umożliwienie organizacjom bezpośredniego łączenia modeli AI z zadaniami operacyjnymi – takimi jak automatyzacja, wspomaganie decyzji czy interakcja z klientami – za pośrednictwem systemów agentowych koordynujących wiele modeli i narzędzi.

W architekturze Huawei ta warstwa przekształca wdrożone modele w praktyczne, korporacyjne agenty AI, które mogą wchodzić w interakcje z danymi, aplikacjami i użytkownikami.

5. Warstwa odporności danych

Ostatnia warstwa koncentruje się na bezpieczeństwie, niezawodności i ochronie danych. Huawei opisuje ją jako kompleksowe ramy zwiększające odporność, które chronią dane i infrastrukturę AI przed awariami i cyberatakami.

Wśród funkcji wymienianych w doniesieniach znajdują się:

• Niezmienne migawki i kopie zapasowe
• Kompleksowa ochrona danych
• Narzędzia do odtwarzania po awarii i zwiększania odporności

Funkcje te mają chronić przed zagrożeniami takimi jak ataki ransomware i inne ryzyka naruszenia integralności danych, które mogłyby zakłócić działanie systemów AI. Niektóre doniesienia łączą warstwę odporności również z szerszą ochroną przed zagrożeniami dla jakości danych w potokach AI, choć szczegółowe informacje techniczne są ograniczone.

Deklarowane osiągi i wydajność

Huawei przedstawił platformę jako sposób na przyspieszenie wdrażania AI w przedsiębiorstwach i poprawę wydajności wnioskowania.

Przykłady podawane w doniesieniach prasowych obejmują:

• Nawet 10-krotnie szybsze generowanie tokenów w niektórych scenariuszach wnioskowania dzięki CMS i optymalizacji zarządzania pamięcią.
• Skrócenie czasu wdrażania aplikacji AI z tygodni do dni dzięki zintegrowanej orkiestracji i narzędziom platformy.
• Przyspieszenie wnioskowania dzięki technikom takim jak optymalizacja pamięci podręcznej KV-cache i ujednolicone zarządzanie pamięcią podręczną.

Podobnie jak w przypadku większości testów porównawczych dostawców, wartości te odzwierciedlają wewnętrzne testy Huawei lub konkretne obciążenia, a nie uniwersalne wyniki wydajności.

Pierwsze wdrożenia w przedsiębiorstwach

Huawei zwrócił również uwagę na wczesne przyjęcie swojej infrastruktury w środowiskach korporacyjnych.

Na przykład francuski detalista Auchan wdrożył sprzęt Huawei i klastry infrastruktury centrum danych w trzech centrach danych we Francji w ramach modernizacji swojej infrastruktury IT.

Chociaż doniesienia potwierdzają wdrożenie infrastruktury Huawei, publicznie dostępne źródła nie przypisują jednoznacznie redukcji kosztów chmury Auchan bezpośrednio platformie Huawei. Dowody wskazują raczej na szerszą modernizację środowiska IT detalisty, która może obejmować wiele technologii i dostawców chmury.

Dlaczego Huawei buduje pełną infrastrukturę AI

Ogłoszenie odzwierciedla szerszy trend w branży w kierunku pionowo zintegrowanej infrastruktury AI. Zamiast oddzielnych narzędzi do przechowywania, wdrażania modeli i orkiestracji, dostawcy coraz częściej łączą je w ujednolicone platformy zaprojektowane dla:

• Klastrów wnioskowania AI na dużą skalę
• Korporacyjnych agentów AI
• Potoków AI skoncentrowanych na danych

Podejście Huawei kładzie duży nacisk na infrastrukturę danych – traktując przechowywanie danych, wyszukiwanie wektorowe, buforowanie w pamięci i orkiestrację jako kluczowe elementy wydajności AI, a nie drugorzędne komponenty.

Jeśli przedsiębiorstwa powszechnie przyjmą tę architekturę, platforma może stać się operacyjnym kręgosłupem dla centrów danych napędzanych AI, łącząc surowe dane, modele AI i systemy agentów w jednym stosie.

Ideą platformy jest połączenie całego cyklu życia aplikacji AI – od przechowywania surowych danych po wdrażanie modeli i działanie agentów – w jedną, zintegrowaną całość. Huawei argumentuje, że rozdrobniona infrastruktura spowalnia adopcję AI, dlatego zaprojektował system, w którym potoki danych, infrastruktura do wnioskowania i warstwy orkiestracji są ze sobą ściśle zintegrowane.

Pięciowarstwowa architektura

Huawei opisuje platformę jako stos pięciu warstw, z których każda obsługuje inną część korporacyjnego potoku AI.

1. Warstwa przechowywania danych

Podstawę stanowi OceanStor Pacific – rozproszona, skalowalna platforma pamięci masowej Huawei, zaprojektowana do przechowywania ogromnych zbiorów danych AI i wektorowych reprezentacji (embeddingów). System jest zoptymalizowany pod kątem dużej gęstości pojemności i przetwarzania danych na masową skalę, typowego dla środowisk trenowania i wnioskowania AI.

Huawei podaje, że OceanStor Pacific może osiągnąć do 11 petabajtów pojemności w obudowie 2U, co ma zapewnić wysoką gęstość przy jednoczesnym obniżeniu całkowitego kosztu posiadania (TCO) dla dużych centrów danych AI.

2. Warstwa zarządzania danymi

Nad magazynem danych znajduje się DME Omni-Dataverse, działająca jako ujednolicona platforma do zarządzania danymi. Agreguje ona dane i zarządza nimi w różnych środowiskach, umożliwiając:

• Pozyskiwanie danych multimodalnych
• Zarządzanie danymi w wielu lokalizacjach
• Globalną widoczność i kontrolę nad danymi
• Szybkie wyszukiwanie w bardzo dużych zbiorach wektorów

Według Huawei i doniesień prasowych, platforma jest w stanie wyszukać dane w ciągu kilku sekund w zbiorach setek miliardów wektorów, umożliwiając modelom AI dostęp do baz wiedzy i wektorowych reprezentacji na niespotykaną dotąd skalę.

3. Warstwa wdrażania modeli i wnioskowania

Kolejna warstwa koncentruje się na efektywnym uruchamianiu modeli AI.

Kluczowe technologie to:

• Context Memory Storage (CMS) – architektura pamięci przeznaczona dla dużych klastrów wnioskujących
• ModelEngine – środowisko wykonawcze Huawei do wdrażania i zarządzania modelami AI

CMS obsługuje heterogeniczne środowiska obliczeniowe i może łączyć w pulę duże zasoby pamięci podręcznej KV-cache, pomagając przyspieszyć zadania wnioskowania. Huawei twierdzi, że architektura ta może znacznie zmniejszyć opóźnienia w generowaniu pierwszego tokena podczas wnioskowania.

ModelEngine zapewnia z kolei funkcje bramy modeli oraz narzędzia do szybkiego wdrażania nowych modeli przy minimalnej konfiguracji.

4. Warstwa orkiestracji agentów AI

Huawei zaprezentował również Nexent – korporacyjną platformę dla agentów AI, która współpracuje z ModelEngine w celu orkiestracji agentów AI w procesach biznesowych.

Celem jest umożliwienie organizacjom bezpośredniego łączenia modeli AI z zadaniami operacyjnymi – takimi jak automatyzacja, wspomaganie decyzji czy interakcja z klientami – za pośrednictwem systemów agentowych koordynujących wiele modeli i narzędzi.

W architekturze Huawei ta warstwa przekształca wdrożone modele w praktyczne, korporacyjne agenty AI, które mogą wchodzić w interakcje z danymi, aplikacjami i użytkownikami.

5. Warstwa odporności danych

Ostatnia warstwa koncentruje się na bezpieczeństwie, niezawodności i ochronie danych. Huawei opisuje ją jako kompleksowe ramy zwiększające odporność, które chronią dane i infrastrukturę AI przed awariami i cyberatakami.

Wśród funkcji wymienianych w doniesieniach znajdują się:

• Niezmienne migawki i kopie zapasowe
• Kompleksowa ochrona danych
• Narzędzia do odtwarzania po awarii i zwiększania odporności

Funkcje te mają chronić przed zagrożeniami takimi jak ataki ransomware i inne ryzyka naruszenia integralności danych, które mogłyby zakłócić działanie systemów AI. Niektóre doniesienia łączą warstwę odporności również z szerszą ochroną przed zagrożeniami dla jakości danych w potokach AI, choć szczegółowe informacje techniczne są ograniczone.

Deklarowane osiągi i wydajność

Huawei przedstawił platformę jako sposób na przyspieszenie wdrażania AI w przedsiębiorstwach i poprawę wydajności wnioskowania.

Przykłady podawane w doniesieniach prasowych obejmują:

• Nawet 10-krotnie szybsze generowanie tokenów w niektórych scenariuszach wnioskowania dzięki CMS i optymalizacji zarządzania pamięcią.
• Skrócenie czasu wdrażania aplikacji AI z tygodni do dni dzięki zintegrowanej orkiestracji i narzędziom platformy.
• Przyspieszenie wnioskowania dzięki technikom takim jak optymalizacja pamięci podręcznej KV-cache i ujednolicone zarządzanie pamięcią podręczną.

Podobnie jak w przypadku większości testów porównawczych dostawców, wartości te odzwierciedlają wewnętrzne testy Huawei lub konkretne obciążenia, a nie uniwersalne wyniki wydajności.

Pierwsze wdrożenia w przedsiębiorstwach

Huawei zwrócił również uwagę na wczesne przyjęcie swojej infrastruktury w środowiskach korporacyjnych.

Na przykład francuski detalista Auchan wdrożył sprzęt Huawei i klastry infrastruktury centrum danych w trzech centrach danych we Francji w ramach modernizacji swojej infrastruktury IT.

Chociaż doniesienia potwierdzają wdrożenie infrastruktury Huawei, publicznie dostępne źródła nie przypisują jednoznacznie redukcji kosztów chmury Auchan bezpośrednio platformie Huawei. Dowody wskazują raczej na szerszą modernizację środowiska IT detalisty, która może obejmować wiele technologii i dostawców chmury.

Dlaczego Huawei buduje pełną infrastrukturę AI

Ogłoszenie odzwierciedla szerszy trend w branży w kierunku pionowo zintegrowanej infrastruktury AI. Zamiast oddzielnych narzędzi do przechowywania, wdrażania modeli i orkiestracji, dostawcy coraz częściej łączą je w ujednolicone platformy zaprojektowane dla:

• Klastrów wnioskowania AI na dużą skalę
• Korporacyjnych agentów AI
• Potoków AI skoncentrowanych na danych

Podejście Huawei kładzie duży nacisk na infrastrukturę danych – traktując przechowywanie danych, wyszukiwanie wektorowe, buforowanie w pamięci i orkiestrację jako kluczowe elementy wydajności AI, a nie drugorzędne komponenty.

Jeśli przedsiębiorstwa powszechnie przyjmą tę architekturę, platforma może stać się operacyjnym kręgosłupem dla centrów danych napędzanych AI, łącząc surowe dane, modele AI i systemy agentów w jednym stosie.