NVIDIA DSX: Der Blaupause für die KI-Fabrik der Zukunft

• Lebenszyklus-Management: Von der ersten Inbetriebnahme bis zur kontinuierlichen Wartung.
• Multi-Tenant-Betrieb: Verwaltung verschiedener Kunden und Workloads auf derselben physischen Infrastruktur, ohne dass diese sich gegenseitig stören.
• Zustandsautomatisierung & Resilienz: Automatische Erkennung und Behebung von Fehlern, um die Betriebszeit zu maximieren.
• Plattform-Services: Standardisierte Schnittstellen für alle darüber liegenden Anwendungen .

Der entscheidende Punkt ist die Co-Architektur: DSX OS wurde nicht nachträglich aufgesetzt, sondern von Grund auf mit den NVIDIA-Chips, der Netzwerktechnik und den Partnern für Kühl- und Stromversorgungslösungen abgestimmt. NVIDIA verfolgt mit der Open-Source-Strategie das klare Ziel, DSX zum Industriestandard für KI-Infrastruktur zu machen – ähnlich, wie Linux zum Standard für Serverbetriebssysteme wurde. Durch die offene und modulare Architektur soll die Akzeptanz bei Cloud-Anbietern beschleunigt und die branchenweite Fragmentierung reduziert werden .

DSX MaxLPS: 40 % mehr GPUs bei gleichem Energiebudget

Der steigende Energiehunger von KI-Anwendungen stellt Betreiber vor große Herausforderungen, insbesondere da die verfügbare Netzanschlussleistung oft der begrenzende Faktor ist. Hier setzt DSX MaxLPS (Maximized Liquid-cooled Performance per Slot) an .

Diese Effizienz-Software-Suite verwaltet die Leistungsaufnahme dynamisch auf drei Ebenen:

1. GPU-Ebene: Feingranulare Anpassung der Leistungsaufnahme einzelner GPUs basierend auf dem aktuellen Bedarf des Workloads.
2. Rack-Ebene: Optimierung der Leistungsverteilung innerhalb eines Server-Racks.
3. Workload-Ebene: Intelligente Verteilung der Rechenarbeit auf die energieeffizientesten Systeme.

In Kombination mit 45-Grad-Celsius-Flüssigkühlung – einer Temperatur, die warm genug ist, um keine energieintensive Kältemaschine zu benötigen, aber kalt genug für eine effiziente Chip-Kühlung – kann diese Software „stranded power“ (ungenutzte Leistungsreserven) innerhalb eines bestehenden Energiebudgets erschließen . Das Ergebnis: NVIDIA gibt an, dass Betreiber so bis zu 40 % mehr GPUs an ihrem energieeffizientesten Arbeitspunkt betreiben können, ohne das Gesamt-Energiebudget zu erhöhen. Übersetzt bedeutet das einen erheblich geringeren Preis pro generiertem KI-Token .

DSX Flex: Wenn die KI-Fabrik auf das Stromnetz hört

Neben der reinen Effizienz innerhalb der eigenen vier Wände bringt DSX Flex eine neue Dimension: die aktive Interaktion mit dem öffentlichen Stromnetz .

DSX Flex verbindet KI-Fabriken mit den Signalen der Netzbetreiber und kann KI-Workloads dynamisch anpassen. Konkret bedeutet das:

• Lastabwurf (Load Shedding): Bei Netzengpässen können nicht-prioritäre KI-Aufgaben gedrosselt oder verschoben werden, um das Netz zu stabilisieren.
• Laststeuerung (Demand Response): Die KI-Fabrik kann ihre Rechenleistung hochfahren, wenn viel erneuerbare Energie (z. B. Solar- oder Windspitzen) im Netz verfügbar ist, und drosseln, wenn der Strom knapp und teuer ist.
• Hybride Orchestrierung: Das System steuert nicht nur den Verbrauch aus dem Netz, sondern auch den Bezug aus eigenen erneuerbaren Quellen und Batteriespeichern vor Ort .

Diese Technologie ist kein theoretisches Konzept mehr. NVIDIA führt bereits einen kommerziellen Multi-Megawatt-Pilotversuch mit Silicon Valley Power (SVP) durch, dem Stadtwerk von Santa Clara. In diesem Pilotprojekt wird demonstriert, wie eine KI-Fabrik ihre Last als Reaktion auf Signale des Versorgers anpassen kann, ohne die Leistung kritischer KI-Workloads zu beeinträchtigen. Dies hilft, die Netzzuverlässigkeit zu gewährleisten und die Stromkosten für alle Kunden zu sichern .

Partnerschaften und Ökosystem

Ein solch ganzheitlicher Ansatz funktioniert nur im Verbund. Daher baut NVIDIA parallel das DSX-Ökosystem massiv aus. Im Fokus stehen dabei:

• Taiwanesische Systemhersteller: Auf der Heimatmesse vieler wichtiger Produktionspartner verkündete NVIDIA die Zusammenarbeit mit den führenden Herstellern aus Taiwan, um DSX-kompatible Systeme zu bauen und den globalen Rollout zu unterstützen . Dazu gehören bekannte Namen wie ASUS, Foxconn, Gigabyte, Quanta Cloud Technology (QCT) und Wistron .
• Cloud-Partner: Eine Reihe großer KI-Cloud-Anbieter setzt bereits auf Kernkomponenten der DSX-Plattform wie DSX Sim, DSX MaxLPS und DSX OS. Dazu zählen CoreWeave, Crusoe, Firmus, IREN, Lambda, Nebius, Nscale und Yotta Data Services . Sie versprechen sich davon ein geringeres Ausfallrisiko, eine bessere GPU-Auslastung und eine schnellere Marktreife neuer KI-Cloud-Kapazitäten.

Die strategische Botschaft von NVIDIA-Gründer Jensen Huang war auf der GTC Taipei eindeutig: NVIDIA liefert nicht mehr nur einzelne Chips oder sogar ganze Server-Racks, sondern eine durchgängige Methodik. Die Vision ist, dass „jede Schicht – Chip, Rack, Netzwerk, Strom, Kühlung und Netzanbindung – durchgängig zusammen entworfen werden muss, denn Rechenleistung ist gleichbedeutend mit Umsatz“ .