HP, Red Hat und NVIDIA planen Edge-KI-Plattform rund um ZGX Fury

HP will gemeinsam mit Red Hat und NVIDIA eine offene KI-Plattform für Unternehmen entwickeln, die Rechenzentrumsarchitekturen bis an den Netzwerkrand erweitert. Im Fokus steht Produktiv-Inferenz – also die Ausführung bereits trainierter KI-Modelle – näher an den Orten, an denen Daten entstehen und Entscheidungen benötigt werden: bei Anwendern, Anwendungen, Maschinen oder Sensoren. 213

Das steckt in der geplanten Plattform

Die Hardware-Basis bildet die HP ZGX Fury. Die KI-Station nutzt NVIDIAs GB300 Grace Blackwell Ultra Desktop Superchip und ist laut HP für bis zu 20 PFLOPS KI-Leistung im FP4-Format bei lokaler Inferenz ausgelegt. 14

Es geht dabei ausdrücklich nicht nur um eine leistungsstarke Workstation. HP positioniert die Verbindung aus ZGX Fury und Red Hat AI Factory with NVIDIA als Plattform, auf der Unternehmen mehrere KI-Workloads außerhalb eines zentralen Rechenzentrums ausführen und orchestrieren können – lokal, in der Cloud oder verteilt über beide Umgebungen. 15

Red Hat liefert die Betriebs- und Hybrid-Cloud-Schicht

Red Hat AI Factory with NVIDIA soll die Software- und Betriebsebene beisteuern. Red Hat beschreibt das Angebot als gemeinsam entwickeltes und unterstütztes Enterprise-Paket: Es verbindet Red Hats offene Hybrid-Cloud-Plattform, KI-Engineering und Betriebsfunktionen mit NVIDIAs KI-Software, Modellen, Microservices, Netzwerktechnik und beschleunigter Infrastruktur. 12

Im von HP angekündigten Einsatzszenario soll diese Schicht Modelle und Anwendungen über Edge-Standorte, Rechenzentren und Cloud-Umgebungen hinweg bereitstellen und verwalten. Die Plattform wird zudem als offen und virtualisiert beschrieben. Vorgesehen sind die Isolation einzelner Workloads und betriebliche Kontrollmöglichkeiten, sodass mehrere KI-Aufgaben auf einem System laufen können, ohne ihre Trennung aufzugeben. 813

Warum Inferenz an den Edge verlagern?

Bei lokaler oder Edge-Inferenz werden Modellanfragen möglichst nah an ihrer Datenquelle verarbeitet, statt vollständig auf eine entfernte Cloud-Infrastruktur angewiesen zu sein. HP nennt dabei vor allem Latenz, Datenschutz, Datensouveränität und eingeschränkte Netzverbindungen als Gründe, warum Unternehmen diese Option benötigen könnten. 8

Besonders relevant kann das dort sein, wo Betriebsdaten sensibel sind, die Anbindung begrenzt ist oder eine Reaktion in unmittelbarer Nähe eines physischen Prozesses erfolgen muss. HP hob unter anderem diese Anwendungsfelder hervor:

• Fertigung: KI-Modelle können näher an Maschinen und Produktionsdaten laufen.
• Softwareentwicklung: Abteilungsweite oder lokale Inferenz sowie KI-gestützte Entwicklungsabläufe.
• Gesundheitswesen: Sensible Daten können näher an ihrem Entstehungsort verarbeitet werden.
• Behörden: Abgeschottete, sogenannte air-gapped Umgebungen, in denen keine Verbindung zu externen Netzen besteht oder bestehen soll. 58

Das sind von HP genannte Anwendungsszenarien, keine Leistungszusagen. Ob sich die Plattform in einem konkreten Unternehmen lohnt, hängt etwa von Modellgröße, Anforderungen an die Datenverarbeitung, Netzarchitektur und vorhandenen Betriebswerkzeugen ab.

Verfügbarkeit: Hardware jetzt, Gesamtlösung noch in Planung

Laut HP ist die ZGX Fury bereits bestellbar und für Red Hat Enterprise Linux zertifiziert. 48 Die umfassendere Kombination aus ZGX Fury und Red Hat AI Factory with NVIDIA wurde jedoch als geplante Plattform vorgestellt – nicht als bereits allgemein verfügbare, vollständig integrierte Lösung. 12

Kunden sollen die Kombination vor einem Produktiveinsatz in einer abgeschotteten Sandbox-Umgebung auf HP-Geräten mit Red Hat AI Factory with NVIDIA evaluieren können. 2 Einen konkreten Starttermin, Zugangsvoraussetzungen oder technische Details zu dieser Testumgebung nannte HP in der Ankündigung nicht.

Was Unternehmen daraus mitnehmen sollten

HP bündelt hier leistungsfähige NVIDIA-Hardware für den lokalen Einsatz mit einer von Red Hat geprägten Hybrid-KI-Software-Schicht. Der entscheidende Punkt ist daher nicht allein der genannte Wert von 20 PFLOPS in FP4: Unternehmen sollen KI in Produktionsumgebungen näher an operative Daten bringen können – bei einem einheitlichen Ansatz für Bereitstellung und Verwaltung über Edge, Rechenzentrum und Cloud hinweg. 11213

Bei der Bewertung sollten Interessenten klar trennen: Verfügbar sind die ZGX-Fury-Hardware und deren Red-Hat-Enterprise-Linux-Zertifizierung. Die integrierte Plattform sowie der angekündigte Sandbox-Weg zur Erprobung befinden sich dagegen noch in der Planungsphase. 24