Nvidia e d-Matrix querem reduzir a latência da IA dividindo o trabalho entre chips

Serviços de IA generativa são avaliados cada vez mais pela rapidez com que começam a responder — e pela fluidez com que continuam a produzir texto, código ou voz. A colaboração anunciada em setembro de 2026 entre Nvidia e d-Matrix mira justamente esse ponto: integrar as futuras XPUs Raptor da d-Matrix à infraestrutura de IA projetada pela Nvidia, permitindo que cada parte de uma solicitação a um modelo de linguagem seja processada pelo tipo de chip mais adequado. 134

A proposta é de complementaridade, não de substituição. As GPUs da Nvidia continuariam a executar o prefill, a etapa que processa o prompt e o contexto e exige muito poder computacional. Já os aceleradores da d-Matrix ficariam com o decode, fase repetitiva e sensível à latência em que o modelo gera a resposta token por token. 45

Por que separar prefill e decode pode deixar a IA mais ágil

Em uma interação com um modelo de linguagem, o prefill prepara o contexto da pergunta; o decode produz cada próximo token da resposta. A d-Matrix posiciona sua arquitetura de inferência — inclusive o atual produto Corsair — para o decode em conjunto com GPUs, que a empresa descreve como mais adequadas às cargas de trabalho intensivas em computação. 26

Essa divisão pode ser especialmente relevante em produtos interativos, nos quais o tempo até o próximo token afeta diretamente a experiência: assistentes de programação, chats e interfaces de voz, por exemplo. A plataforma Raptor é voltada ao que a d-Matrix chama de serviços premium de tokens com latência ultrabaixa. 48

Mas especializar os chips cria uma exigência: a troca de dados entre eles precisa ser rápida o bastante para que a comunicação não elimine o ganho obtido com a divisão de tarefas. É esse gargalo que a integração de infraestrutura busca atacar.

O papel de NVLink Fusion, MGX e Spectrum-X

O Raptor deve usar o NVLink Fusion para entrar no domínio de expansão vertical (scale-up) do NVLink, enquanto o Spectrum-X será a rede de expansão horizontal (scale-out) entre sistemas. Segundo a Nvidia, isso abre para a d-Matrix um caminho para conectar silício customizado à sua plataforma mais ampla de infraestrutura para IA. 3

O rack planejado da d-Matrix terá como base a arquitetura de referência MGX da Nvidia e deve incorporar CPUs Nvidia Vera, switches NVLink, DPUs BlueField-4, SuperNICs ConnectX-9 e Ethernet Spectrum-X. 48

Na prática, o valor para a d-Matrix não se limita à interconexão. Em vez de validar sozinha servidores, rede, energia, refrigeração e cadeia de fornecimento para um novo processador, a empresa pode desenvolver seu produto dentro de um ecossistema de racks já validado. A Nvidia apresenta MGX e sua plataforma mais ampla como um caminho acelerado e de menor risco entre o silício customizado e a implantação em grande escala. 3

A intenção, portanto, é que o Raptor possa ser implementado como parte de uma "fábrica de IA" no padrão Nvidia, e não como um equipamento de inferência isolado.

Raptor aposta em memória e largura de banda

A d-Matrix detalhou uma configuração ambiciosa para racks Raptor: até 144 XPUs por rack, 2,3 TB de DRAM empilhada em 3D e 7,2 PB/s de largura de banda agregada de memória. A companhia diz que o projeto deve suportar modelos com mais de 4 trilhões de parâmetros, usando precisão de 4 bits. São especificações planejadas, e não resultados de produtos já entregues e validados de forma independente. 4

A arquitetura reflete a visão da empresa de que o decode de grandes modelos de linguagem é fortemente condicionado pela movimentação de dados e pela largura de banda de memória. O pacote 3D proposto para o Raptor combina um chip de memória DRAM e um chip de computação SRAM, ampliando a abordagem centrada em memória da d-Matrix. 4

A empresa prevê concluir o tape-out — etapa em que o projeto do chip é finalizado para fabricação — até o fim de 2026. A disponibilidade inicial em rack MGX é esperada para o quarto trimestre de 2027. Até lá, ainda há uma cadeia relevante de execução: fabricação, encapsulamento, validação dos sistemas e implantação em escala de rack. 48

Por que a Nvidia abre sua plataforma para aceleradores de terceiros

O aspecto estratégico da parceria é que a Nvidia permitirá que uma XPU externa e especializada se conecte à sua arquitetura de racks e à sua malha de rede, em vez de exigir que todas as fases da inferência sejam executadas por GPUs próprias.

A Nvidia define sua plataforma de IA como "verticalmente integrada e horizontalmente aberta": a empresa pode manter o valor de sua interconexão, rede, projetos de rack e ecossistema, ao mesmo tempo que permite a participação de outros processadores. 3

Isso amplia o conjunto de cargas de trabalho atendidas pela plataforma. Clientes que buscam um acelerador focado em decode podem ter mais incentivo para permanecer em infraestrutura compatível com Nvidia se esse componente operar com NVLink Fusion, MGX e Spectrum-X. Não se trata de um recuo das GPUs: elas seguem centrais para treinamento, inferência de propósito geral e o prefill mais pesado; o chip especializado entra como opção para o decode. 145

Corsair e o financiamento da d-Matrix

O Raptor sucede o acelerador de inferência Corsair. Segundo a d-Matrix, o Corsair foi projetado especificamente para o decode em inferência desagregada e trabalha em conjunto com GPUs, em vez de substituí-las. 26

A empresa divulgou alegações de desempenho, custo e eficiência energética para sistemas híbridos baseados no Corsair. Esses números, porém, devem ser tratados como afirmações da companhia enquanto não houver detalhes de benchmarks independentes e reproduzíveis. As evidências disponíveis não demonstram um ganho universal em todos os modelos, tamanhos de lote ou configurações de implantação. 2528

A d-Matrix levantou US$ 275 milhões em uma rodada Série C, com avaliação reportada de US$ 2 bilhões, elevando o total de recursos captados informado pela empresa a US$ 450 milhões. A rodada teve participação da M12, braço de venture capital da Microsoft, entre outros investidores. 2130 A Reuters também informou que a Microsoft havia apoiado a d-Matrix em uma rodada de financiamento de 2023 e que a empresa enviou seu primeiro chip de IA em novembro de 2024. 1

Esses marcos indicam uma transição: de uma proposta de acelerador de inferência isolado para um roteiro mais amplo, em escala de rack. A integração com a Nvidia pode tornar essa evolução mais crível para clientes que já compram ou operam infraestrutura baseada na empresa.

O que ainda não foi divulgado

Os termos financeiros do acordo entre Nvidia e d-Matrix não foram revelados. 1 Por isso, o anúncio público não permite determinar se há taxas de licenciamento, compromissos de engenharia conjunta, compras em volume, divisão de receitas ou investimento da Nvidia.

A conclusão mais clara está na direção tecnológica: as duas empresas se preparam para um mercado de inferência no qual um único tipo de processador não precisa executar todas as etapas de uma solicitação a um modelo de linguagem. A d-Matrix ganha acesso a fábricas de IA compatíveis com a Nvidia; a Nvidia, por sua vez, adiciona uma opção especializada em decode integrada à sua rede e à sua plataforma de racks. Se isso resultará em menor latência ou melhor economia em escala dependerá do hardware Raptor final, da orquestração de software e dos benchmarks de clientes após a disponibilidade prevista para 2027. 348