Nvidia mise sur les « jetons par mégawatt » pour ses usines d’IA

La contrainte majeure des infrastructures d’intelligence artificielle n’est plus seulement le nombre d’accélérateurs que l’on peut installer dans une baie : c’est aussi, et de plus en plus, l’électricité disponible.

À l’ouverture de l’AI Infra Summit 2026, Nvidia a donc proposé un autre indicateur pour ses « usines d’IA » : les jetons d’IA agentique par mégawatt. L’idée est de mesurer la quantité d’inférence réellement produite dans une enveloppe électrique donnée, et non la seule performance théorique des GPU. 23

Ian Buck, vice-président de Nvidia chargé des infrastructures hyperscale et du calcul haute performance, a présenté cette orientation à Santa Clara. Le message dépasse la performance des accélérateurs : pour rester productive malgré les limites de puissance, une usine d’IA doit coordonner calcul, réseau, logiciels d’inférence, refroidissement, gestion de l’énergie et interaction avec le réseau électrique. 123

Le cas concret : Lambda et DSX MaxLPS

L’élément le plus tangible vient de Lambda, fournisseur de cloud IA, qui a publié la première validation en environnement de déploiement de Nvidia DSX MaxLPS sur des serveurs GPU HGX B200. Selon Nvidia, ce logiciel surveille la consommation au niveau des GPU et des baies, puis redistribue la marge de puissance disponible entre les nœuds. 23

Dans le cluster testé, composé de cinq baies et de 19 nœuds, Lambda a fait fonctionner 19 nœuds avec un budget électrique qui aurait normalement permis d’alimenter 16 nœuds à pleine puissance. Le débit du cluster serait ainsi passé d’environ 4 à 5 millions de jetons par seconde, soit une hausse rapportée de 24 %, tandis que les performances par watt auraient progressé de 23 %. 23

L’enjeu est très opérationnel. La capacité d’un centre de données est souvent plafonnée par la puissance électrique effectivement livrée sur le site. Quand les charges de travail n’ont pas toutes le même profil de consommation, exploiter les marges momentanément inutilisées peut accroître la production sans nouvelle arrivée électrique ni hausse du budget de puissance du site.

Vera Rubin : des estimations, pas encore des résultats de production

Nvidia a également avancé des gains potentiels pour de futurs déploiements Vera Rubin NVL72. DSX MaxLPS pourrait, selon le groupe, permettre d’intégrer jusqu’à 40 % de capacité GPU supplémentaire dans une même enveloppe de puissance sur site, et d’augmenter le débit de jetons jusqu’à 35 %, selon les conditions de déploiement. 23

Ces chiffres ne doivent toutefois pas être lus comme les résultats de Lambda. Les données de Lambda sont des mesures rapportées sur une installation fondée sur Blackwell ; celles relatives à Vera Rubin sont des projections de Nvidia pour une plateforme à venir. 23

Une usine d’IA plus réactive face au réseau électrique

Le second axe majeur de Nvidia est la flexibilité : toutes les tâches informatiques ne sont pas aussi urgentes, et une usine d’IA devrait pouvoir en tenir compte lorsque le réseau électrique est sous tension.

Dans l’usine d’IA Eos de Nvidia, la plateforme Conductor d’Emerald AI a été utilisée avec Silicon Valley Power dans le cadre d’un programme commercial de charge flexible. Nvidia indique que le système a répondu à plus de 200 signaux émis par le fournisseur d’électricité. Lors d’un événement démontré, la consommation du site est passée de 4 MW à 3 MW en moins d’une minute, en réduisant la priorité de tâches informatiques flexibles tout en maintenant les inférences les plus prioritaires. 23

Nvidia présente ce programme comme un premier exemple de la fonction visée par DSX Flex. Le groupe décrit DSX Flex comme un outil capable de recevoir des signaux d’effacement, de réponse à la demande ou de prix de l’électricité, puis d’appliquer des priorités : les tâches reportables peuvent être suspendues et relancées, tandis que les services critiques restent actifs. La démonstration d’Eos constitue un précédent commercial à grande échelle, et non une installation DSX Flex proprement dite. 23

Cette distinction est importante pour les exploitants : un entraînement, un traitement par lots ou une tâche hors ligne n’exigent pas nécessairement le même temps de réponse qu’un service d’inférence en production. Traiter une partie du calcul comme une charge flexible peut aider un centre de données à participer aux programmes du réseau tout en protégeant les charges de travail les plus importantes.

Du silicium à l’exploitation du site

Les annonces du sommet dessinent une Nvidia qui veut être perçue moins comme un simple fournisseur de composants que comme un fournisseur de plateforme d’usine d’IA. La pile technologique proposée couvre les processeurs Vera Rubin, l’interconnexion NVLink, le logiciel d’inférence Dynamo, les réseaux Ethernet et SuperNIC, les composants d’infrastructure BlueField, l’optimisation de l’énergie au niveau des baies et le pilotage des charges de travail selon l’état du réseau. 2

Dans cette stratégie, Groq 3 LPX est présenté comme un accélérateur d’inférence interactif destiné à Vera Rubin, conçu pour les besoins de faible latence et de grand contexte des systèmes agentiques. 112 Les sources fournies étayent ce positionnement, mais ne permettent pas de confirmer indépendamment des affirmations plus précises sur sa date de disponibilité, une comparaison à « 35 fois plus de débit par mégawatt » ou les performances sur des modèles de plus de deux mille milliards de paramètres.

Un enjeu économique considérable

Ce discours sur l’exploitation à l’échelle d’une usine intervient alors que l’activité de Nvidia dans les centres de données continue de croître rapidement. Au deuxième trimestre de son exercice 2027, clos le 26 juillet 2026, l’entreprise a enregistré un chiffre d’affaires de 96,2 milliards de dollars, en hausse de 106 % sur un an, dont 89,0 milliards de dollars pour son activité Data Center. 17

Pour le trimestre suivant, Nvidia a annoncé viser 108 milliards de dollars de chiffre d’affaires, à plus ou moins 2 %. 2830

Ce contexte financier éclaire l’insistance du groupe sur les opérations à l’échelle du site. À mesure que les clients déploient davantage de capacités d’IA, les questions concrètes deviennent l’accès à l’électricité, l’augmentation de la production sous une puissance limitée et la continuité des services d’inférence malgré les aléas énergétiques et opérationnels.

À retenir

Nvidia ne soutient pas que la performance brute des accélérateurs a cessé de compter. L’entreprise affirme plutôt qu’elle ne suffit plus, à elle seule, à définir l’économie d’une usine d’IA.

Son indicateur — les jetons validés par mégawatt — relie les performances matérielles aux contraintes réelles des exploitants : puissance disponible sur site, sollicitations du réseau, hiérarchisation des charges et disponibilité du système. Le gain de 24 % de débit rapporté par Lambda apporte un premier point de données issu d’un déploiement ; les annonces plus larges de Nvidia autour de Vera Rubin et de DSX devront encore être confirmées dans les opérations de ses clients. 23