HP chce przenieść firmową AI bliżej danych dzięki ZGX Fury, Red Hat i NVIDIA

HP, Red Hat i NVIDIA zapowiedziały współpracę nad otwartą platformą AI klasy enterprise, która ma przenieść architekturę AI znaną z centrów danych na brzeg sieci. Planowane rozwiązanie ma umożliwiać uruchamianie produkcyjnego wnioskowania AI bliżej użytkowników, aplikacji, maszyn i danych. 213

Co ma tworzyć tę platformę?

Podstawą sprzętową będzie HP ZGX Fury — stacja AI wyposażona w NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip. HP podaje, że konfiguracja została zaprojektowana z myślą o lokalnym wnioskowaniu i ma oferować do 20 PFLOPS wydajności AI FP4. 14

Nie chodzi jednak wyłącznie o pojedynczą stację roboczą. HP przedstawia ZGX Fury wraz z Red Hat AI Factory with NVIDIA jako element platformy dla przedsiębiorstw, przeznaczonej do uruchamiania i orkiestracji wielu obciążeń AI poza scentralizowanym centrum danych. Obciążenia mają być obsługiwane lokalnie, w chmurze albo w modelu łączącym oba podejścia. 15

Rola Red Hat AI Factory with NVIDIA

Warstwę programową i operacyjną ma zapewniać Red Hat AI Factory with NVIDIA. Red Hat opisuje to jako wspólnie wspierane rozwiązanie dla firm, łączące otwartą platformę hybrydowej chmury Red Hat, kompetencje inżynierii AI i narzędzia operacyjne z oprogramowaniem AI, modelami, mikroserwisami, siecią oraz przyspieszaną infrastrukturą NVIDIA. 12

W proponowanej architekturze ta warstwa ma pomagać wdrażać i zarządzać modelami oraz aplikacjami AI w lokalizacjach brzegowych, centrach danych i chmurze. Platforma jest opisywana jako otwarta i zwirtualizowana; ma zapewniać izolację obciążeń oraz kontrolę operacyjną, tak aby na jednym systemie można było uruchamiać wiele zadań AI z zachowaniem rozdzielenia między nimi. 813

Dlaczego firmy chcą wnioskowania AI bliżej operacji?

Kluczowym założeniem jest lokalne wnioskowanie AI, czyli przetwarzanie zapytań do modelu blisko miejsca, w którym dane powstają lub są wykorzystywane — zamiast przesyłania ich wyłącznie do odległej infrastruktury chmurowej. HP wskazuje tu na wymagania dotyczące opóźnień, prywatności, suwerenności danych i łączności. 8

Takie podejście może być istotne tam, gdzie dane operacyjne są wrażliwe, połączenie sieciowe jest ograniczone albo odpowiedź modelu musi być dostępna blisko fizycznego procesu. HP wymienia kilka przykładowych zastosowań:

• produkcję — modele działające bliżej maszyn i danych produkcyjnych;
• tworzenie oprogramowania — wnioskowanie w działach firmy lub lokalnie oraz przepływy pracy wspierane przez AI;
• ochronę zdrowia — przetwarzanie wrażliwych danych bliżej ich źródła;
• administrację publiczną — także środowiska odizolowane od sieci, w których dostęp do chmury może być niewskazany lub niemożliwy. 58

To deklarowane scenariusze użycia, a nie gwarancje efektów. Faktyczne korzyści będą zależeć m.in. od rozmiaru modeli, zasad przetwarzania danych, architektury sieci i narzędzi operacyjnych organizacji.

Dostępność: co jest już dostępne, a co pozostaje planem?

HP poinformowało, że ZGX Fury jest dostępny do zamówienia i ma certyfikację dla Red Hat Enterprise Linux. 48 Szersze rozwiązanie łączące ZGX Fury z Red Hat AI Factory with NVIDIA zostało jednak zapowiedziane jako planowana platforma, a nie w pełni dostępna, zintegrowana usługa o powszechnej dostępności. 12

Firma zapowiedziała też możliwość oceny połączonego środowiska w sandboxie na urządzeniach HP działających z Red Hat AI Factory with NVIDIA, przed przeniesieniem zastosowań do produkcji. 2 W komunikacie nie podano konkretnej daty uruchomienia, kryteriów dostępu ani technicznej konfiguracji tego środowiska testowego.

Najważniejszy wniosek

HP próbuje połączyć wydajny sprzęt NVIDIA działający lokalnie z warstwą programową Red Hat dla hybrydowej AI. Dla firm istotna jest nie tylko deklarowana wartość 20 PFLOPS FP4, ale możliwość uruchamiania AI blisko danych operacyjnych przy zachowaniu spójnego sposobu wdrażania i zarządzania w lokalizacjach brzegowych, centrum danych oraz chmurze. 11213

Przy ocenie oferty warto odróżnić elementy dostępne obecnie — sprzęt ZGX Fury i jego certyfikację Red Hat Enterprise Linux — od elementów nadal planowanych, w tym zintegrowanej platformy i zapowiedzianej ścieżki testów sandboxowych. 24