RéponsesPublié17 sources
À Hangzhou, China Telecom mise sur 1 024 TPU pour faire chuter le coût de l’inférence IA
China Telecom Hangzhou, ZTE et Zhonghao Xinying ont installé 1 024 TPU Chana sur la plateforme Taize, pour une puissance annoncée de 400 PFLOPS. Les partenaires attribuent une hausse de plus de 10× de l’efficacité de génération de tokens à des optimisations matérielles et logicielles, notamment la séparation Prefill...
Publié parModifié avec GPT-5.6 TerraImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- China Telecom Hangzhou, ZTE et Zhonghao Xinying ont installé 1 024 TPU Chana sur la plateforme Taize, pour une puissance annoncée de 400 PFLOPS.
- Les partenaires attribuent une hausse de plus de 10× de l’efficacité de génération de tokens à des optimisations matérielles et logicielles, notamment la séparation Prefill Decode.
- Le coût annoncé est passé d’environ 100 yuans à moins de 10 yuans par million de tokens, mais cette donnée est déclarée par l’opérateur et ne s’appuie pas sur une méthodologie publique détaillée.
- Une deuxième phase, reposant sur le TPU Xuyu, vise plus de 10 000 PFLOPS.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: How did China Telecom’s Hangzhou branch, ZTE, and Zhonghao Xinying deploy China’s first domestic 1,024-chip Chana TPU cluster delivering 400. Article summary: China Telecom’s Hangzhou branch, ZTE, and Zhonghao Xinying built the first phase as a production-oriented, fully domestic TPU stack rather than merely installing accelerators: 1,024 first-generation Chana TPUs were integ. Topic tags: general, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
Le déploiement de Hangzhou est important moins pour le chiffre de 1 024 puces que pour l’intégration construite autour d’elles. La branche de China Telecom à Hangzhou, ZTE et Zhonghao Xinying ont associé des TPU Chana de première génération à la plateforme de calcul Taize, aux serveurs, au réseau de cluster et aux outils d’ordonnancement. L’ensemble représente une puissance annoncée de 400 PFLOPS pour l’entraînement de grands modèles, l’inférence IA et le calcul scientifique. Le projet est présenté comme le premier déploiement à grande échelle d’un cluster de TPU domestiques au sein de China Telecom, ainsi que comme le premier cluster chinois de TPU « mille cartes » de l’est du pays. 17
20
Ce qui a été déployé
La première phase utilise 1 024 TPU Chana sur la plateforme Taize de Zhonghao Xinying. Les partenaires décrivent une pile construite localement, couvrant l’accélérateur, les serveurs, l’interconnexion du cluster et la planification des ressources. 17
18
Cette précision est essentielle : un grand cluster IA ne consiste pas seulement à empiler des accélérateurs. Les performances réellement exploitables dépendent de l’articulation entre serveurs, réseau, logiciels de modèles et ordonnanceur. Le but affiché est donc de faire du TPU un service de calcul exploitable en production, plutôt qu’une simple démonstration de puce. 18
Pourquoi la séparation Prefill-Decode est au cœur de la promesse de coût
L’inférence d’un grand modèle de langage comporte deux étapes distinctes :
- le prefill, qui traite la requête de l’utilisateur et construit le contexte de travail du modèle ;
- le decode, qui génère les tokens de réponse un par un.
Ces deux phases ne sollicitent pas les ressources de la même manière. Les séparer permet à une plateforme d’inférence d’allouer et de planifier indépendamment les capacités nécessaires au traitement du prompt et à la génération, plutôt que de faire exécuter les deux tâches par le même parc de puces selon une planification unique. En production, cette approche suppose aussi une orchestration de cluster et une configuration réseau adaptées, comme l’illustrent les recommandations de déploiement de services SGLang avec séparation Prefill-Decode. 2
Hangzhou Telecom affirme qu’après plusieurs mois d’optimisation conjointe des logiciels et du matériel — versions de modèles, opérateurs, configurations de serveurs, bande passante réseau et ordonnancement — l’efficacité de sortie des tokens a progressé de plus de 10× par rapport au début de l’année. L’opérateur indique aussi que le coût par million de tokens est passé d’environ 100 yuans à moins de 10 yuans. 9
11
Ces chiffres doivent toutefois être lus comme des résultats déclarés par l’opérateur, et non comme des benchmarks universels de TPU. Les informations disponibles ne détaillent ni les modèles utilisés, ni la précision, la taille des lots, le profil du trafic, le taux d’utilisation ou la méthode de calcul des coûts. Il est donc impossible de reproduire indépendamment ces gains ou de les comparer directement à une autre plateforme d’inférence.
L’intérêt du montage à trois partenaires
Le cluster réunit trois compétences habituellement évaluées séparément :
- Zhonghao Xinying fournit le TPU Chana et la plateforme Taize. Selon les informations publiées, Chana s’appuie sur un cœur IP, un jeu d’instructions et une plateforme de calcul développés en interne.
18
19
- ZTE participe à la construction couvrant les réseaux de communication, l’intégration des serveurs et l’infrastructure de cluster.
- China Telecom Hangzhou apporte le cadre opérationnel pour fournir et administrer des capacités de calcul à grande échelle.
Pour une puce IA domestique, un tel environnement d’opérateur permet de dépasser les seules spécifications de pointe. La question devient celle du service rendu : ordonnancement, adaptation des modèles, comportement du réseau et exploitation continue déterminent si les clients obtiennent une capacité d’inférence prévisible. L’architecture annoncée comprend explicitement les ressources de calcul, la planification, l’adaptation des modèles, la gestion des opérations et les applications sectorielles. 18
L’opportunité, mais aussi le défi logiciel
Un TPU est un accélérateur IA orienté calcul tensoriel. Son intérêt ne tient pas uniquement au nombre de FLOPS : il vise une exécution efficace des opérations matricielles intensives, très présentes dans l’entraînement et l’inférence des grands modèles.
À l’échelle d’un cluster, toutefois, la performance d’un accélérateur est indissociable de l’interconnexion, du comportement mémoire, des communications collectives, de l’ordonnancement, de la fiabilité et de la compatibilité logicielle des modèles.
Une alternative domestique doit donc démontrer bien davantage que le bon fonctionnement de son silicium. Les modèles, moteurs d’inférence, opérateurs, méthodes de quantification et flux de travail des clients doivent fonctionner de manière fiable sur cette nouvelle pile. Les sources fournies confirment le déploiement à Hangzhou et le projet d’extension, mais elles n’établissent pas une équivalence générale avec les écosystèmes logiciels GPU dominants, tous modèles et frameworks confondus.
Deuxième phase : Xuyu et un objectif de plus de 10 000 PFLOPS
Les partenaires prévoient une deuxième phase utilisant le TPU Xuyu de deuxième génération de Zhonghao Xinying, avec une puissance totale planifiée supérieure à 10 000 PFLOPS. 17
19
L’entreprise annonce pour Xuyu 896 TFLOPS en calcul flottant à précision mixte et 1 792 TOPS en inférence 8 bits, pour une puissance nominale de 600 W. Elle revendique environ trois fois les performances de Chana et une consommation inférieure de 50 % à celle de puces conventionnelles à performances comparables. Il s’agit de caractéristiques communiquées par l’entreprise. 19
20
Au niveau système, Xuyu est conçu pour des supernœuds pouvant relier jusqu’à 2 048 puces par interconnexion entièrement optique, selon la présentation publique de la société. 20
Ce que le cluster de Hangzhou démontre réellement
Le projet montre une tentative d’assembler une pile de calcul IA domestique complète, de la puce jusqu’à la plateforme : accélérateur, jeu d’instructions, serveurs, réseau, ordonnancement et opérations de service. 18
19
Son épreuve décisive sera sa capacité à soutenir des charges de production variées, avec des logiciels compatibles, des performances prévisibles et une économie transparente. Le déploiement de 400 PFLOPS et l’extension envisagée avec Xuyu sont largement rapportés. En revanche, les annonces les plus spectaculaires — efficacité de sortie des tokens multipliée par plus de 10 et coût inférieur à 10 yuans par million de tokens — restent des déclarations de l’opérateur et des participants au projet tant que la méthodologie de benchmark et les détails des charges de travail ne sont pas publiés. 9
11
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « À Hangzhou, China Telecom mise sur 1 024 TPU pour faire chuter le coût de l’inférence IA » ?
China Telecom Hangzhou, ZTE et Zhonghao Xinying ont installé 1 024 TPU Chana sur la plateforme Taize, pour une puissance annoncée de 400 PFLOPS.
Quels sont les points clés à valider en premier ?
China Telecom Hangzhou, ZTE et Zhonghao Xinying ont installé 1 024 TPU Chana sur la plateforme Taize, pour une puissance annoncée de 400 PFLOPS. Les partenaires attribuent une hausse de plus de 10× de l’efficacité de génération de tokens à des optimisations matérielles et logicielles, notamment la séparation Prefill Decode.
Que dois-je faire ensuite en pratique ?
Le coût annoncé est passé d’environ 100 yuans à moins de 10 yuans par million de tokens, mais cette donnée est déclarée par l’opérateur et ne s’appuie pas sur une méthodologie publique détaillée.