AntwortenVeröffentlicht17 Quellen
Chinas 1.024-Chip-TPU-Cluster: Wie Hangzhou die KI-Inferenz billiger machen will
China Telecom Hangzhou, ZTE und Zhonghao Xinying haben einen Cluster mit 1.024 Chana TPUs und 400 PFLOPS in Betrieb genommen. Die Betreiber melden nach Hard und Softwareoptimierungen mehr als die zehnfache Token Ausgabe sowie Kosten von unter 10 Yuan je Million Token – unabhängige Benchmarkdetails fehlen jedoch.
Veröffentlicht vonBearbeitet mit GPT-5.6 TerraBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- China Telecom Hangzhou, ZTE und Zhonghao Xinying haben einen Cluster mit 1.024 Chana TPUs und 400 PFLOPS in Betrieb genommen.
- Die Betreiber melden nach Hard und Softwareoptimierungen mehr als die zehnfache Token Ausgabe sowie Kosten von unter 10 Yuan je Million Token – unabhängige Benchmarkdetails fehlen jedoch.
- In einer zweiten Ausbaustufe soll der Xuyu TPU der zweiten Generation die Gesamtleistung auf mehr als 10.000 PFLOPS steigern.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did China Telecom’s Hangzhou branch, ZTE, and Zhonghao Xinying deploy China’s first domestic 1,024-chip Chana TPU cluster delivering 400. Article summary: China Telecom’s Hangzhou branch, ZTE, and Zhonghao Xinying built the first phase as a production-oriented, fully domestic TPU stack rather than merely installing accelerators: 1,024 first-generation Chana TPUs were integ. Topic tags: general, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
Der Cluster in Hangzhou ist weniger wegen der Zahl von 1.024 Chips bemerkenswert als wegen der Komponenten, die darum herum integriert wurden. Die Hangzhou-Niederlassung von China Telecom, ZTE und Zhonghao Xinying kombinierten TPUs der ersten Generation namens Chana mit der Taize-Rechenplattform, Servern, Cluster-Netzwerk und Ressourcensteuerung zu einem System mit 400 PFLOPS. Berichten zufolge handelt es sich um die erste großskalige Bereitstellung eines inländischen TPU-Clusters im China-Telecom-Konzern sowie um den ersten TPU-Tausendkarten-Cluster dieser Art in Ostchina. 17
20
Was in Hangzhou aufgebaut wurde
Die erste Ausbaustufe nutzt 1.024 Chana-TPUs auf der Taize-Plattform von Zhonghao Xinying. Nach Angaben der Projektpartner stammen Beschleuniger, Serverhardware, Clustervernetzung und die Steuerung der Rechenressourcen aus einer durchgängig heimischen Lieferkette. 17
18
Das ist ein wichtiger Unterschied: Ein großer KI-Cluster ist nicht einfach eine Ansammlung von Beschleunigerchips. Ob die theoretische Leistung in der Praxis ankommt, hängt davon ab, wie Server, Netzwerk, Modellsoftware und Scheduler zusammenspielen. Das Projekt soll die TPU daher als betreibbaren Rechendienst etablieren – und nicht nur als Demonstration eines einzelnen Chips. 18
Warum die Trennung von Prefill und Decode für die Kosten zentral ist
Bei der Inferenz großer Sprachmodelle gibt es zwei unterschiedliche Arbeitsphasen:
- Prefill verarbeitet die Eingabe und baut den Arbeitskontext des Modells auf.
- Decode erzeugt die Antwort anschließend Token für Token.
Beide Phasen beanspruchen die Infrastruktur unterschiedlich. Werden sie getrennt, kann eine Inferenzplattform Kapazitäten für die Verarbeitung der Eingabe und für die fortlaufende Tokengenerierung unabhängig dimensionieren und einplanen. Damit muss nicht mehr ein einziger Ressourcenpool beide Arten von Last unter demselben Zeitplan bedienen. In der Praxis erfordert dies eine passende Cluster-Orchestrierung und Netzwerkkonfiguration; entsprechende Vorgaben finden sich auch für Prefill-Decode-getrennte SGLang-Dienste. 2
Hangzhou Telecom erklärte, nach Monaten der gemeinsamen Hard- und Softwareoptimierung – bei Modellversionen, Operatoren, Serverkonfigurationen, Netzbandbreite und Scheduling – sei die Effizienz bei der Token-Ausgabe gegenüber Jahresbeginn um mehr als das Zehnfache gestiegen. Die Kosten pro Million Token seien von rund 100 Yuan auf unter 10 Yuan gefallen. 9
11
Diese Werte sind allerdings als von Betreiber und Projektbeteiligten gemeldete Resultate zu verstehen, nicht als allgemein übertragbare TPU-Benchmarks. Die verfügbaren Berichte nennen weder Modellmix noch Präzision, Batch-Größen, Lastprofil, Auslastung oder Methode der Kostenrechnung. Die Einsparungen lassen sich deshalb nicht unabhängig reproduzieren oder direkt mit anderen Inferenzplattformen vergleichen.
Weshalb das Drei-Partner-Modell zählt
Der Cluster verbindet drei Fähigkeiten, die sonst oft getrennt betrachtet werden:
- Zhonghao Xinying liefert die Chana-TPU und die Taize-Plattform. Chana verfügt laut Berichten über einen selbst entwickelten IP-Kern, Befehlssatz und eine eigene Rechenplattform.
18
19
- ZTE wirkt am gemeinsamen Aufbau mit, der Kommunikationsnetze, Serverintegration und Clusterinfrastruktur umfasst.
- China Telecom Hangzhou stellt das operative Umfeld bereit, um Rechenkapazität im großen Maßstab anzubieten und zu verwalten.
Für einen heimischen KI-Chip ist ein solches Betreiberumfeld wertvoll: Der Prüfstein verschiebt sich von Spitzenwerten auf dem Datenblatt zur verlässlichen Dienstbereitstellung. Scheduling, Modellanpassung, Netzwerkverhalten und laufender Betrieb entscheiden darüber, ob Kunden planbare Inferenzkapazität erhalten. Die Architektur des Projekts umfasst ausdrücklich Rechenressourcen, Ressourcensteuerung, Modellanpassung, Betriebsmanagement und Branchenanwendungen. 18
Die Chance – und die schwierigere Softwareaufgabe
Eine TPU ist ein auf Tensoroperationen spezialisierter KI-Beschleuniger. Ihr Potenzial liegt nicht allein in hohen FLOPS-Werten, sondern in der effizienten Ausführung matrixintensiver Aufgaben, wie sie beim Training und bei der Inferenz großer Modelle dominieren. Im Cluster hängt die tatsächliche Leistung jedoch ebenso von Interconnects, Speicherverhalten, kollektiver Kommunikation, Scheduling, Zuverlässigkeit und Kompatibilität mit Modellsoftware ab.
Eine heimische Alternative muss daher mehr beweisen, als dass das Silizium funktioniert. Modelle, Inferenz-Engines, Operatoren, Quantisierungsverfahren und Kunden-Workflows müssen auf dem neuen Stack stabil laufen. Die vorliegenden Berichte belegen den Aufbau in Hangzhou und den geplanten Ausbau, zeigen aber keine breit abgesicherte Gleichwertigkeit mit etablierten GPU-Softwareökosystemen über verschiedene Modelle und Frameworks hinweg.
Zweite Ausbaustufe: Xuyu und das Ziel von 10.000 PFLOPS
Für die zweite Phase planen die Partner den Einsatz der TPU der zweiten Generation namens Xuyu. Die insgesamt geplante Rechenleistung soll 10.000 PFLOPS überschreiten. 17
19
Nach Unternehmensangaben erreicht Xuyu 896 TFLOPS bei Gleitkommaoperationen mit gemischter Präzision sowie 1.792 TOPS bei 8-Bit-Inferenz und hat eine Nennleistungsaufnahme von 600 Watt. Das Unternehmen gibt zudem an, Xuyu liefere etwa die dreifache Leistung von Chana und verbrauche bei vergleichbarer Leistung 50 Prozent weniger Energie als herkömmliche Chips. Dies sind Unternehmensangaben. 19
20
Auf Systemebene ist Xuyu laut öffentlicher Präsentation für Supernodes mit bis zu 2.048 Chips ausgelegt, die über eine vollständig optische Verbindung gekoppelt sind. 20
Was der Cluster tatsächlich zeigt
Das Projekt zeigt den Versuch, einen heimischen KI-Rechenstack vom Chip bis zum Plattformbetrieb zusammenzustellen: Beschleuniger, Befehlssatz, Server, Netzwerk, Scheduling und Servicebetrieb. 18
19 Seine entscheidende Bewährungsprobe wird sein, ob dieser Stack unterschiedliche produktive Lasten mit kompatibler Software, berechenbarer Leistung und transparenten Kosten dauerhaft tragen kann.
Der Cluster mit 400 PFLOPS und der geplante Ausbau mit Xuyu werden breit berichtet. Die aufmerksamkeitsstärkeren Angaben – mehr als zehnmal höhere Token-Effizienz und weniger als 10 Yuan pro Million Token – sind plausible Ziele eines besser ausgelasteten Inferenzsystems. Ohne offengelegte Benchmarkmethodik und Details zu den Workloads bleiben sie jedoch Aussagen des Betreibers und der Projektpartner. 9
11
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Chinas 1.024-Chip-TPU-Cluster: Wie Hangzhou die KI-Inferenz billiger machen will“?
China Telecom Hangzhou, ZTE und Zhonghao Xinying haben einen Cluster mit 1.024 Chana TPUs und 400 PFLOPS in Betrieb genommen.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
China Telecom Hangzhou, ZTE und Zhonghao Xinying haben einen Cluster mit 1.024 Chana TPUs und 400 PFLOPS in Betrieb genommen. Die Betreiber melden nach Hard und Softwareoptimierungen mehr als die zehnfache Token Ausgabe sowie Kosten von unter 10 Yuan je Million Token – unabhängige Benchmarkdetails fehlen jedoch.
Was soll ich als nächstes in der Praxis tun?
In einer zweiten Ausbaustufe soll der Xuyu TPU der zweiten Generation die Gesamtleistung auf mehr als 10.000 PFLOPS steigern.