AnswersPublished21 sources
Vera Rubin NVL72: що Nvidia змінює в інфраструктурі для ШІ-агентів
Vera Rubin NVL72 — це не лише нове покоління GPU, а повноцінна стійкова платформа: 72 GPU Rubin, 36 CPU Vera, NVLink 6, ConnectX 9 SuperNIC і BlueField 4 DPU. За даними Nvidia, у тесті SemiAnalysis AgentX платформа показала до 30× вищу пропускну здатність на мегават, ніж GB300 NVL72, і до 35× нижчу вартість токенів.
ОпублікувавВідредаговано за допомогою GPT-5.6 LunaЗображення створено за допомогою GPT Image 1.5
Research answer
Key takeaways
- Vera Rubin NVL72 — це не лише нове покоління GPU, а повноцінна стійкова платформа: 72 GPU Rubin, 36 CPU Vera, NVLink 6, ConnectX 9 SuperNIC і BlueField 4 DPU.
- За даними Nvidia, у тесті SemiAnalysis AgentX платформа показала до 30× вищу пропускну здатність на мегават, ніж GB300 NVL72, і до 35× нижчу вартість токенів.
- CPU Vera має 88 ядер Olympus, 176 потоків Spatial Multithreading, до 1,2 ТБ/с пропускної здатності пам’яті та 164 МБ спільної кеш пам’яті L3.
- SpaceXAI планує використовувати Vera для агентних навантажень і розширення інфраструктури Grok, а згодом — адаптувати Vera Rubin для супутника Starmind.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce about its next generation Vera Rubin NVL72 platform, Vera CPU, Scale In networking, and partnerships, including the. Article summary: Nvidia’s announcement positions Vera Rubin as a rack scale, full stack “AI factory,” not merely a faster GPU generation: it combines custom GPUs, CPUs, scale up and scale out networking, DPUs, and power management softwa. Topic tags: general web, llm, agents, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Nvidia подає Vera Rubin як масштабовану «AI-фабрику» — цілісну інфраструктуру для запуску та обслуговування моделей, а не просто як швидший графічний процесор. До платформи входять власні GPU і CPU, системи з’єднання всередині стійки та між стійками, мережеві й інфраструктурні прискорювачі, а також програмне забезпечення для оптимізації енергоспоживання.
Ключова ідея компанії: у добу ШІ-агентів важливо вимірювати не лише кількість операцій із плаваючою комою, а й те, скільки корисної роботи система виконує на кожен витрачений мегават і кожен згенерований токен. Водночас наведені Nvidia результати є її власними заявами, отриманими у вендорському порівнянні, а не незалежною рецензованою валідацією. 8
Що таке Vera Rubin NVL72
Vera Rubin NVL72 — це рідинно охолоджувана стійка, у якій об’єднано:
- 72 GPU Rubin;
- 36 процесорів Vera;
- мережеві адаптери ConnectX-9 SuperNIC;
- DPU BlueField-4 для розвантаження інфраструктурних операцій;
- комутатори шостого покоління NVLink.
Усередині стійки 72 GPU мають працювати як один тісно пов’язаний обчислювальний домен. Для підключення до інших стійок Nvidia пропонує Quantum-X800 InfiniBand або Spectrum-X Ethernet. 3
6
Звідки взялися заяви про 30× ефективності
Nvidia стверджує, що Vera Rubin NVL72 забезпечує до 30 разів вищу пропускну здатність агентних навантажень на мегават, ніж GB300 NVL72. У тому самому порівнянні компанія заявляє про до 35 разів нижчу вартість токенів. 8
9
Окремо Nvidia заявляла, що платформа Rubin загалом може зменшити вартість інференс-токена до 10 разів порівняно з Blackwell. 11
Ці цифри не слід трактувати як універсальний тариф на обробку запитів. Результат залежить від моделі, довжини контексту, цільової швидкості відповіді, конфігурації системи та характеру навантаження. У наданих матеріалах немає первинного, безпосередньо зіставного показника для Hopper, а також немає підтвердженої суми в доларах за один мільйон токенів. Тому називати точний множник переваги над Hopper або фіксовану ціну за мільйон токенів підстав недостатньо.
Що вимірював тест AgentX
Для демонстрації результатів Nvidia використала робоче навантаження SemiAnalysis AgentX і модель DeepSeek V4 Pro. AgentX відтворює записані сесії агентного програмування, зокрема зростання контексту, виклики інструментів і запуск підлеглих агентів. 8
9
Це важлива відмінність від звичайного тесту чат-бота. Агентний сценарій може включати:
- багато послідовних звернень до моделі;
- виклики зовнішніх інструментів;
- виконання коду;
- пошук і обробку даних;
- координацію кількох процесів;
- роботу з довгим контекстом.
Через це на підсумкову продуктивність впливають не лише GPU-обчислення. Значення мають пропускна здатність пам’яті, робота CPU, затримки між компонентами та ефективність мережі. Nvidia також наголошує, що агентні сценарії споживають значно більше токенів, ніж одноразовий чат-запит, оскільки передбачають ітеративне міркування та використання інструментів. За даними Nvidia News, такі навантаження можуть споживати до 15 разів більше токенів, ніж простий чат-запит.
DSX MaxLPS: оптимізація не пікової потужності, а роботи на ват
Платформа Nvidia DSX охоплює чипи, серверні системи, програмне забезпечення, будівлі дата-центрів і технології партнерів. Її завдання — проєктувати та експлуатувати AI-фабрики як єдину систему.
Компонент DSX MaxLPS має максимізувати кількість оброблених токенів на одиницю потужності, щоб знизити собівартість токена. Йдеться не про те, щоб постійно працювати на максимальному миттєвому енергоспоживанні, а про раціональний розподіл потужності між обчисленнями, пам’яттю, мережею та іншими частинами інфраструктури. 12
15
Для великих дата-центрів це може мати практичне значення: обмеженням дедалі частіше стають не самі прискорювачі, а доступна електрична потужність, охолодження та можливість підвести енергію до нових обчислювальних залів.
Vera — процесор для задач навколо інференсу
Nvidia описує Vera як власний процесор, сумісний з Armv9.2 і спеціально орієнтований на інфраструктуру епохи ШІ-агентів. Він має 88 ядер Olympus і 176 потоків Spatial Multithreading. 1
2
Процесор має виконувати значну частину роботи, яка оточує запуск моделі: обробку даних, оркестрацію, пошук, виклики інструментів, виконання коду в ізольованих середовищах і симуляції. Такий підхід покликаний не просто прискорити CPU, а зменшити ситуації, коли GPU змушений чекати на підготовку даних або завершення допоміжних операцій.
Пам’ять і внутрішнє з’єднання
Vera використовує пам’ять LPDDR5X у модулях SOCAMM2. Nvidia заявляє такі характеристики:
- до 1,2 ТБ/с сумарної пропускної здатності пам’яті;
- до 14 ГБ/с на ядро;
- до 1,5 ТБ місткості пам’яті;
- 164 МБ спільної кеш-пам’яті L3;
- до 3,4 ТБ/с двонапрямної пропускної здатності Scalable Coherency Fabric.
1
7
8
За даними Nvidia, порівняно з Grace процесор Vera має у 2,4 раза вищу пропускну здатність пам’яті, утричі більшу місткість пам’яті та вдвічі ширший канал NVLink-C2C для когерентної взаємодії CPU і GPU. 1
Роль Scale-In у мережевій архітектурі
Термінологія Nvidia розділяє інфраструктуру на кілька рівнів.
Scale-in, або scale-up
На цьому рівні GPU з’єднуються всередині однієї стійки. NVLink 6 має перетворити 72 GPU на один тісно інтегрований комп’ютер стійкового масштабу. Nvidia вказує до 3,6 ТБ/с двонапрямної пропускної здатності між GPU на кожен GPU і до 260 ТБ/с сукупної пропускної здатності на рівні стійки. 3
Для зв’язку Vera з GPU використовується NVLink-C2C із когерентною пропускною здатністю до 1,8 ТБ/с, що, за даними Nvidia, у сім разів перевищує можливості PCIe Gen6.
Scale-out
Цей рівень з’єднує кілька стійок у більші кластери. Тут Nvidia використовує Quantum-X800 InfiniBand або Spectrum-X Ethernet. 3
Розвантаження мережі та інфраструктури
ConnectX-9 SuperNIC і BlueField-4 DPU беруть на себе частину мережевих, сховищних, безпекових і транспортних операцій. Це дає змогу звільнити CPU та GPU для основних обчислень. 3
6
Отже, Scale-In — це не альтернатива scale-out, а внутрішній рівень архітектури. NVLink об’єднує прискорювачі в межах однієї системи, InfiniBand і Ethernet масштабують систему між стійками, а SuperNIC та DPU розвантажують шлях передавання даних.
Партнерство зі SpaceXAI та плани Starmind
Nvidia заявляє, що SpaceXAI розгортатиме процесори Vera для наступного покоління агентних навантажень, а також розширюватиме інфраструктуру Grok на платформі Vera Rubin у міру наближення до обчислювальних потужностей гігаватного масштабу. 10
Компанії також планують перенести цю архітектуру в космічний проєкт Starmind. Перший супутник має базуватися на оптимізованій системі Vera Rubin NVL72, яка стане обчислювальним корисним навантаженням для орбітальної AI-інфраструктури. Однак це заплановане розгортання, а не підтвердження того, що орбітальний дата-центр уже працює. 10
12
Що це означає для Nvidia
Якщо заявлені показники підтвердяться в реальних клієнтських інсталяціях, головна перевага Vera Rubin полягатиме не лише у вищій швидкості моделей. Nvidia прагне збільшити кількість корисних агентних операцій на кожен обмежений мегават — і потенційно зменшити витрати на електроенергію, охолодження, мережу та капітальне будівництво в розрахунку на токен.
Одночасно Nvidia розширює конкурентну присутність за межі GPU. Компанія контролює дедалі більше рівнів AI-інфраструктури: власні Arm-процесори, когерентні CPU–GPU-системи, внутрішньостійкову комутацію, мережеві прискорювачі, DPU та операційне програмне забезпечення для AI-фабрик.
Це може посилити позиції Nvidia проти інших виробників GPU та традиційних постачальників серверних CPU. Але є й зворотний бік: чим тісніше пов’язані між собою апаратні компоненти та програмний стек, тим сильніше клієнт залежить від екосистеми Nvidia.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Vera Rubin NVL72: що Nvidia змінює в інфраструктурі для ШІ-агентів"?
Vera Rubin NVL72 — це не лише нове покоління GPU, а повноцінна стійкова платформа: 72 GPU Rubin, 36 CPU Vera, NVLink 6, ConnectX 9 SuperNIC і BlueField 4 DPU.
What are the key points to validate first?
Vera Rubin NVL72 — це не лише нове покоління GPU, а повноцінна стійкова платформа: 72 GPU Rubin, 36 CPU Vera, NVLink 6, ConnectX 9 SuperNIC і BlueField 4 DPU. За даними Nvidia, у тесті SemiAnalysis AgentX платформа показала до 30× вищу пропускну здатність на мегават, ніж GB300 NVL72, і до 35× нижчу вартість токенів.
What should I do next in practice?
CPU Vera має 88 ядер Olympus, 176 потоків Spatial Multithreading, до 1,2 ТБ/с пропускної здатності пам’яті та 164 МБ спільної кеш пам’яті L3.