Vera Rubin: a aposta da Nvidia em uma “fábrica de IA” mais eficiente

A Nvidia apresentou a Vera Rubin como algo maior do que uma nova geração de GPUs. A proposta é uma plataforma completa de “fábrica de IA”, na qual chips, interconexões, processamento de dados e software de operação são projetados para funcionar em conjunto — especialmente em cargas de trabalho de inteligência artificial agentiva, nas quais os modelos fazem chamadas de ferramentas, executam código e repetem várias etapas de raciocínio.

A empresa afirma que essa integração pode aumentar a quantidade de trabalho útil realizado por megawatt e reduzir o custo de geração de tokens. Mas há uma ressalva importante: os principais números de desempenho são alegações da Nvidia baseadas em um benchmark apoiado pela própria empresa, e não uma validação independente revisada por pares. 8

O que é a plataforma Vera Rubin NVL72

O Vera Rubin NVL72 é um rack refrigerado a líquido que integra:

• 72 GPUs Rubin;
• 36 CPUs Vera;
• switches de sexta geração NVLink;
• ConnectX-9 SuperNICs, voltadas à conectividade de alta velocidade;
• BlueField-4 DPUs, responsáveis por descarregar tarefas de rede, armazenamento e segurança.

A configuração foi projetada para funcionar como um único domínio de computação com 72 GPUs. Para conectar vários racks e formar clusters maiores, a Nvidia usa Quantum-X800 InfiniBand ou Spectrum-X Ethernet. 36

A ideia central é tratar o rack como um computador de escala industrial, e não como uma coleção de servidores independentes. Isso permite que as GPUs compartilhem dados com menor latência e que tarefas de suporte à inferência sejam distribuídas entre as CPUs, DPUs e componentes de rede.

A promessa de até 30 vezes mais trabalho por megawatt

No material divulgado, a Nvidia afirma que o Vera Rubin NVL72 oferece até 30 vezes mais throughput por megawatt do que o GB300 NVL72 em cargas de IA agentiva. A empresa também fala em uma redução de até 35 vezes no custo por token na comparação citada. 89

A Nvidia já havia associado a arquitetura Rubin, de forma mais ampla, a uma redução de até 10 vezes no custo de tokens de inferência em relação à plataforma Blackwell. 11

Esses números não devem ser interpretados como uma tarifa universal por milhão de tokens. O custo real depende do modelo, do tamanho do contexto, da taxa de resposta, do nível de interatividade, da utilização do hardware, do preço da eletricidade e de outros custos do data center.

Também não há, no material disponível, um número primário e diretamente comparável que permita afirmar um multiplicador específico da Vera Rubin sobre a arquitetura Hopper. Da mesma forma, não foi publicado um valor exato, em dólares, para o custo de um milhão de tokens. A comparação de 30 vezes é sustentada para o GB300 NVL72 dentro do cenário apresentado, não para qualquer sistema Hopper ou para toda carga de inferência.

Como funcionou o benchmark AgentX

A medição usou o AgentX, benchmark da SemiAnalysis que reproduz sessões de programação com agentes em um cenário semelhante ao de produção. O teste preserva elementos como crescimento do contexto, chamadas de ferramentas e criação de subagentes. O modelo usado na comparação destacada foi o DeepSeek V4 Pro. 89

Esse tipo de teste é diferente de uma medição convencional de FLOPS ou de uma pergunta isolada enviada a um chatbot. Em uma tarefa agentiva, o sistema pode precisar:

1. interpretar uma solicitação;
2. recuperar informações;
3. chamar ferramentas externas;
4. executar código em um ambiente isolado;
5. avaliar os resultados;
6. voltar ao modelo para novas etapas de raciocínio.

Por isso, o desempenho depende não apenas da GPU. A capacidade da CPU, a largura de banda da memória, a comunicação entre chips e a eficiência da rede também podem limitar o resultado. É nesse ponto que a Nvidia posiciona a Vera Rubin como uma arquitetura voltada para o “trabalho” completo do agente, e não somente para a geração de cada token.

CPU Vera: 88 núcleos para as tarefas ao redor da inferência

A Nvidia Vera é uma CPU personalizada compatível com Armv9.2. Ela tem 88 núcleos Olympus e suporta 176 threads por meio da tecnologia Spatial Multithreading. 210

A CPU foi desenhada para tarefas que acompanham a execução dos modelos, como processamento de dados, orquestração, recuperação de informações, uso de ferramentas, execução de código em ambientes isolados e simulações. Em cargas agentivas, essas funções podem ocupar uma parcela significativa do tempo total de uma solicitação.

A arquitetura inclui memória LPDDR5X em módulos SOCAMM2, com até 1,2 TB/s de largura de banda agregada e até 14 GB/s por núcleo. O chip também usa a segunda geração da Scalable Coherency Fabric, que conecta os 88 núcleos ao cache L3 compartilhado, à memória e ao sistema de entrada e saída, com até 3,4 TB/s de largura de banda de bisseção. A Nvidia informa ainda um cache L3 unificado de 164 MB. 78

Em comparação com a CPU Grace, a empresa afirma que a Vera oferece 2,4 vezes mais largura de banda de memória, três vezes mais capacidade de memória e o dobro da largura de banda do NVLink-C2C para a operação coerente entre CPU e GPU. 1

O papel do Scale-In na rede da Nvidia

O termo Scale-In — também chamado de scale-up — descreve a comunicação dentro de um mesmo sistema, enquanto scale-out se refere à conexão entre diferentes racks.

Na Vera Rubin, o NVLink 6 permite que as 72 GPUs operem como um domínio fortemente integrado. A Nvidia especifica até 3,6 TB/s de largura de banda bidirecional entre GPU e GPU por acelerador e até 260 TB/s no nível do rack. 3

A arquitetura de rede pode ser resumida em três camadas:

• Scale-in ou scale-up: o NVLink 6 conecta as GPUs dentro do rack e faz o sistema se comportar como um computador de grande escala. 3
• Scale-out: Quantum-X800 InfiniBand e Spectrum-X Ethernet conectam vários racks em clusters maiores. 3
• Descarga de tarefas de dados e infraestrutura: ConnectX-9 e BlueField-4 cuidam de funções de rede, armazenamento, segurança e movimentação de dados. 36

Para a comunicação entre CPU e GPU, o NVLink-C2C oferece até 1,8 TB/s de largura de banda coerente, segundo a Nvidia — sete vezes a largura de banda de uma conexão PCIe Gen 6.

Essa separação é importante porque uma fábrica de IA precisa movimentar dados em diferentes escalas. A comunicação rápida entre GPUs é uma questão; conectar racks inteiros é outra; e retirar da GPU tarefas de armazenamento, segurança e gerenciamento de dados é uma terceira. A Nvidia está tentando controlar todas essas camadas com componentes próprios.

DSX MaxLPS: otimizar tokens por energia, não apenas potência instantânea

A Nvidia também apresentou o DSX como um projeto de ponta a ponta para fábricas de IA, abrangendo chips, sistemas, software, instalações e tecnologias de parceiros. Dentro desse conjunto, o DSX MaxLPS busca maximizar o throughput de tokens por unidade de energia e, consequentemente, reduzir o custo por token. 1215

Na prática, a proposta não é simplesmente operar cada acelerador na maior potência possível. O objetivo é distribuir melhor a energia disponível entre processamento, memória, interconexão, armazenamento e refrigeração para aumentar a quantidade de trabalho concluído por megawatt.

Essa abordagem ganha importância à medida que a disponibilidade de energia elétrica, a capacidade de resfriamento e a infraestrutura de transmissão passam a limitar a expansão dos data centers. Nesse cenário, um sistema que entrega mais respostas úteis dentro do mesmo orçamento energético pode ser mais valioso do que um sistema que apenas atinge um pico maior de desempenho.

Parceria com a SpaceXAI e o projeto Starmind

A Nvidia afirma que a SpaceXAI usará CPUs Vera para acelerar cargas agentivas de próxima geração. A empresa também pretende ampliar a infraestrutura do Grok com a plataforma Vera Rubin enquanto busca atingir capacidade computacional em escala de gigawatts. 14

O acordo prevê ainda uma extensão planejada da arquitetura para o projeto orbital Starmind. A primeira geração do satélite deverá usar uma versão otimizada do sistema Vera Rubin NVL72 como base para uma carga computacional adaptada ao espaço. 1412

Esse é um plano de implantação, não uma confirmação de que já exista um data center orbital de IA em operação. Os detalhes disponíveis descrevem uma colaboração em desenvolvimento, com adaptação de hardware e infraestrutura para as condições do espaço.

O que isso significa para a Nvidia

Se os resultados divulgados se repetirem em implantações reais, o principal ganho da Vera Rubin não será apenas executar modelos maiores ou gerar tokens mais rapidamente. Será realizar mais tarefas completas de agentes dentro de um limite de energia, refrigeração e orçamento.

A Nvidia também está ampliando sua disputa competitiva. A empresa já domina o mercado de aceleradores de IA, mas agora busca ocupar uma posição mais abrangente, incluindo:

• CPUs Arm personalizadas;
• sistemas coerentes entre CPU e GPU;
• redes de scale-in e scale-out;
• DPUs para descarregar funções de infraestrutura;
• software para operar fábricas de IA.

Essa integração pode fortalecer a Nvidia diante de rivais de GPUs e de fabricantes tradicionais de CPUs. Ao mesmo tempo, aumenta a dependência dos clientes em relação à arquitetura, às ferramentas e ao ecossistema de software da empresa.

A promessa da Vera Rubin, portanto, é tanto de desempenho quanto de controle de infraestrutura: mais trabalho agentivo por megawatt, mas também uma presença ainda maior da Nvidia em cada camada do data center de IA.