AntwortenVeröffentlicht22 Quellen
Nvidia Vera Rubin: 30× mehr Agentenleistung pro Megawatt – was NVL72, Vera CPU und SpaceXAI bedeuten
Die flüssigkeitsgekühlte Vera Rubin NVL72 kombiniert 72 Rubin GPUs, 36 Vera CPUs, NVLink 6, ConnectX 9 SuperNICs und BlueField 4 DPUs zu einer Rack Scale KI Plattform. Nvidia behauptet im SemiAnalysis AgentX Test mit DeepSeek V4 Pro bis zu 30× mehr Durchsatz pro Megawatt und bis zu 35× niedrigere Tokenkosten als bei...
Veröffentlicht vonBearbeitet mit GPT-5.6 LunaBilder erstellt mit GPT Image 1.5
Forschungsantwort
Wichtige Erkenntnisse
- Die flüssigkeitsgekühlte Vera Rubin NVL72 kombiniert 72 Rubin GPUs, 36 Vera CPUs, NVLink 6, ConnectX 9 SuperNICs und BlueField 4 DPUs zu einer Rack Scale KI Plattform.
- Nvidia behauptet im SemiAnalysis AgentX Test mit DeepSeek V4 Pro bis zu 30× mehr Durchsatz pro Megawatt und bis zu 35× niedrigere Tokenkosten als bei GB300 NVL72.
- Die Vera CPU besitzt 88 Olympus Kerne, 176 Spatial Multithreading Threads, bis zu 1,2 TB/s Speicherbandbreite und 3,4 TB/s Kohärenzbandbreite.
- DSX MaxLPS soll die Zahl der erzeugten Tokens pro Megawatt maximieren – ein Ansatz, der Stromversorgung und Kühlung als zentrale Engpässe von KI Rechenzentren adressiert.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce about its next generation Vera Rubin NVL72 platform, Vera CPU, Scale In networking, and partnerships, including the. Article summary: Nvidia’s announcement positions Vera Rubin as a rack scale, full stack “AI factory,” not merely a faster GPU generation: it combines custom GPUs, CPUs, scale up and scale out networking, DPUs, and power management softwa. Topic tags: general web, llm, agents, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Nvidia verkauft Vera Rubin nicht einfach als nächste Generation schnellerer GPUs. Die Plattform soll eine komplette, auf agentische KI ausgelegte „KI-Fabrik“ bilden: Chips, Rack-Systeme, Verbindungen, Datenverarbeitung und Energiemanagement werden gemeinsam entwickelt. Ziel ist nicht nur mehr Rechenleistung, sondern mehr tatsächlich erledigte Agentenaufgaben pro begrenztem Megawatt.
Die wichtigsten Leistungsversprechen sind jedoch Nvidia-Angaben aus einem vom Unternehmen präsentierten Benchmark und keine unabhängige, peer-reviewte Validierung. 8
Vera Rubin NVL72: ein kompletter KI-Rack
Das flüssigkeitsgekühlte NVL72-System bündelt 72 Rubin-GPUs und 36 Vera-CPUs. Hinzu kommen ConnectX-9-SuperNICs für die Netzwerkanbindung, BlueField-4-DPUs für Datenpfad-, Speicher- und Sicherheitsaufgaben sowie die sechste Generation der NVLink-Switches. 3
6
Im Rack arbeiten die 72 GPUs als eng gekoppelter Scale-up-Verbund. Nach außen lässt sich das System über Quantum-X800-InfiniBand oder Spectrum-X-Ethernet mit weiteren Racks zu größeren Clustern verbinden. Nvidia bezeichnet diesen ganzheitlichen Aufbau als AI Factory beziehungsweise KI-Fabrik.
Bis zu 30× mehr Arbeit pro Megawatt?
Nvidia behauptet, Vera Rubin NVL72 erreiche bei agentischen Workloads bis zu 30-mal mehr Durchsatz pro Megawatt als ein GB300 NVL72. In derselben Gegenüberstellung sollen die Tokenkosten um bis zu 35-mal niedriger ausfallen. 8
9 Für Rubin insgesamt hatte Nvidia außerdem eine Senkung der Inference-Tokenkosten um bis zu zehnmal gegenüber Blackwell in Aussicht gestellt.
11
Diese Zahlen sind stark vom Workload, Modell, Kontextumfang, Interaktionsziel und der konkreten Systemkonfiguration abhängig. Sie sollten daher nicht als allgemeingültiger Preis für das Bereitstellen von KI-Antworten verstanden werden.
Was wurde getestet?
Für die Messung kam der AgentX-Benchmark von SemiAnalysis zum Einsatz. Er spielt aufgezeichnete, produktionsnahe Sitzungen für agentisches Programmieren ab. Dabei bleiben unter anderem das wachsende Kontextfenster, Tool-Aufrufe und das Starten von Sub-Agenten erhalten. Als Modell wurde DeepSeek V4 Pro verwendet. 8
9
Das ist für die Einordnung wichtig: Bei einer einfachen Chat-Anfrage zählt vor allem die Generierungsgeschwindigkeit der GPU. Ein KI-Agent ruft dagegen wiederholt Werkzeuge auf, führt Code aus, verarbeitet Daten, ruft Informationen ab und stimmt mehrere Arbeitsschritte miteinander ab. Dadurch werden CPU-Leistung, Speicherbandbreite und die Latenz der Verbindungen zu entscheidenden Faktoren.
Keine belastbare Hopper- oder Dollar-pro-Million-Angabe
Die vorliegenden Quellen belegen die von Nvidia kommunizierte Gegenüberstellung mit GB300 NVL72. Eine direkt vergleichbare Primärquelle für einen konkreten Hopper-Multiplikator liegt hier jedoch nicht vor. Ebenso wird kein verifizierter Dollarbetrag für „Kosten pro einer Million Tokens“ genannt.
Auch die Token-Nutzung lässt sich nicht pauschal auf jede Anwendung übertragen. Agentische Abläufe benötigen wegen wiederholter Modellaufrufe, Zwischenschritte und Tool-Nutzung deutlich mehr Tokens als eine einmalige Chat-Antwort. Die genannten Effizienzwerte sind deshalb als workload- und konfigurationsabhängige Herstellerangaben zu lesen – nicht als universelle Betriebskosten.
Vera CPU: 88 Olympus-Kerne für die Aufgaben rund um das Modell
Mit Vera stellt Nvidia eine eigene, Armv9.2-kompatible CPU vor, die speziell für die Infrastruktur rund um agentische KI positioniert wird. Der Prozessor verfügt über 88 individuell entwickelte Olympus-Kerne und 176 Threads über Nvidias Spatial-Multithreading-Technik. 2
10
Die CPU soll jene Aufgaben beschleunigen, die während der Inferenz neben der eigentlichen GPU-Berechnung anfallen:
- Orchestrierung und Ablaufsteuerung von Agenten
- Datenaufbereitung und Retrieval
- Tool-Aufrufe und Codeausführung
- isolierte Sandbox-Prozesse
- Simulation und Analysen
Vera nutzt SOCAMM2-LPDDR5X-Speicher mit bis zu 1,2 TB/s aggregierter Speicherbandbreite beziehungsweise bis zu 14 GB/s pro Kern. Das zweiteilige Scalable-Coherency-Fabric verbindet die 88 Kerne, den gemeinsamen Cache, den Speicher und die I/O-Einheiten mit bis zu 3,4 TB/s Bisection-Bandbreite. Der gemeinsame L3-Cache umfasst laut Nvidia 164 MB. 7
8
Gegenüber Grace nennt Nvidia bis zu 2,4-mal mehr Speicherbandbreite, die dreifache Speicherkapazität und doppelte NVLink-C2C-Bandbreite für eine kohärente Kommunikation zwischen CPU und GPU. 1
Welche Rolle spielt „Scale-In“?
Nvidias Netzwerkstrategie für Vera Rubin lässt sich in drei Ebenen unterteilen:
- Scale-in beziehungsweise Scale-up: NVLink 6 verbindet die 72 GPUs innerhalb eines Racks so eng, dass sie wie ein gemeinsamer Rechner behandelt werden können. Nvidia nennt pro GPU 3,6 TB/s bidirektionale GPU-zu-GPU-Bandbreite und insgesamt 260 TB/s auf Rack-Ebene.
3
- Scale-out: Quantum-X800-InfiniBand oder Spectrum-X-Ethernet verbindet mehrere Racks zu einem größeren Cluster.
- Daten- und Infrastruktur-Offload: ConnectX-9 und BlueField-4 übernehmen Netzwerk-, Speicher-, Sicherheits- und weitere Datenpfadfunktionen.
„Scale-In“ ist damit nicht einfach ein weiteres externes Netzwerk. Gemeint ist die besonders enge Verbindung der Beschleuniger innerhalb eines einzelnen Systems. Scale-out beginnt dort, wo mehrere solcher Racks miteinander kommunizieren.
DSX MaxLPS: Leistung nicht um jeden Preis
Mit der DSX-Plattform beschreibt Nvidia ein durchgängiges Design für KI-Fabriken, das Chips, Systeme, Software, Gebäudetechnik und Partnertechnologien umfasst. Die Software DSX MaxLPS soll den Token-Durchsatz pro eingesetzter Leistung maximieren und dadurch die Kosten pro Token senken. 12
15
Der Unterschied zum klassischen Ansatz: Ein Rechenzentrum soll nicht einfach jede GPU dauerhaft mit maximaler Momentanleistung betreiben. Stattdessen geht es darum, Strom möglichst effektiv über den gesamten KI-Stack zu verteilen. Das kann besonders dann relevant werden, wenn Netzanschluss, Kühlung und verfügbare elektrische Leistung den Ausbau stärker begrenzen als die Zahl der verfügbaren Beschleuniger.
Damit verschiebt sich die Optimierungsfrage von „Wie viele FLOPS liefert der Chip?“ zu „Wie viele brauchbare Agentenaktionen entstehen pro Megawatt?“
SpaceXAI: Grok auf der Erde, Starmind als Ausblick im Orbit
Nvidia zufolge will SpaceXAI Vera-CPUs für die nächste Generation agentischer Workloads einsetzen und die Infrastruktur für Grok auf Basis von Vera Rubin ausbauen. Das Unternehmen zielt dabei auf Rechenkapazitäten im Gigawattbereich. 14
Darüber hinaus soll die Architektur perspektivisch auf das geplante Starmind-Orbitalcomputing-Projekt ausgeweitet werden. Ein optimiertes Vera-Rubin-NVL72-System soll dabei als Grundlage für eine weltraumtaugliche Rechenlast dienen. 14
12
Das ist eine geplante Nutzung und kein Beleg dafür, dass bereits ein betriebsbereites KI-Rechenzentrum im Orbit arbeitet. Für einen Einsatz im All müssten unter anderem Energieversorgung, Wärmeabfuhr, Strahlungsschutz, Zuverlässigkeit und die physische Integration der Hardware angepasst werden.
Was die Ankündigung strategisch bedeutet
Sollten sich die von Nvidia genannten Workload-Werte in Kundeninstallationen bestätigen, läge der entscheidende Fortschritt nicht allein in höherer Modellgeschwindigkeit. Der mögliche Vorteil wäre mehr nützliche Agentenarbeit pro knappem Megawatt – mit potenziell niedrigeren Strom-, Kühlungs-, Netzwerk- und Investitionskosten pro erzeugtem Token.
Gleichzeitig erweitert Nvidia seine Wettbewerbsposition deutlich über den GPU-Markt hinaus. Vera Rubin verbindet eigene Arm-CPUs, kohärente CPU-GPU-Systeme, Rack-Scale-Switching, DPUs und den Betrieb von KI-Fabriken in einer gemeinsamen Architektur. Das kann die Plattform für Betreiber großer KI-Rechenzentren attraktiver machen. Es erhöht aber auch ihre Abhängigkeit von Nvidias Hardware, Netzwerkkomponenten und Software-Ökosystem.
Der Kern der Vera-Rubin-Strategie lautet daher: Nicht der einzelne Chip soll den Unterschied machen, sondern die Kontrolle über die gesamte Infrastruktur, auf der agentische KI künftig betrieben wird.
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Nvidia Vera Rubin: 30× mehr Agentenleistung pro Megawatt – was NVL72, Vera CPU und SpaceXAI bedeuten“?
Die flüssigkeitsgekühlte Vera Rubin NVL72 kombiniert 72 Rubin GPUs, 36 Vera CPUs, NVLink 6, ConnectX 9 SuperNICs und BlueField 4 DPUs zu einer Rack Scale KI Plattform.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Die flüssigkeitsgekühlte Vera Rubin NVL72 kombiniert 72 Rubin GPUs, 36 Vera CPUs, NVLink 6, ConnectX 9 SuperNICs und BlueField 4 DPUs zu einer Rack Scale KI Plattform. Nvidia behauptet im SemiAnalysis AgentX Test mit DeepSeek V4 Pro bis zu 30× mehr Durchsatz pro Megawatt und bis zu 35× niedrigere Tokenkosten als bei GB300 NVL72.
Was soll ich als nächstes in der Praxis tun?
Die Vera CPU besitzt 88 Olympus Kerne, 176 Spatial Multithreading Threads, bis zu 1,2 TB/s Speicherbandbreite und 3,4 TB/s Kohärenzbandbreite.