RespostasPublicado17 fontes
Como o cluster de TPUs da China Telecom em Hangzhou busca baratear a inferência de IA
A primeira fase usa 1.024 TPUs Chana na plataforma Taize e tem capacidade declarada de 400 PFLOPS para treinamento, inferência e computação científica. A China Telecom de Hangzhou afirma que ajustes de hardware e software, incluindo a separação entre prefill e decode, elevaram em mais de 10 vezes a eficiência de ger...
Publicado porEditado com GPT-5.6 TerraImagens geradas com GPT Image 2
Resposta de pesquisa
Principais conclusões
- A primeira fase usa 1.024 TPUs Chana na plataforma Taize e tem capacidade declarada de 400 PFLOPS para treinamento, inferência e computação científica.
- A China Telecom de Hangzhou afirma que ajustes de hardware e software, incluindo a separação entre prefill e decode, elevaram em mais de 10 vezes a eficiência de geração de tokens.
- A segunda fase deve usar a TPU Xuyu e levar a capacidade planejada acima de 10.000 PFLOPS, mas os números de desempenho e economia ainda dependem de validação independente.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: How did China Telecom’s Hangzhou branch, ZTE, and Zhonghao Xinying deploy China’s first domestic 1,024-chip Chana TPU cluster delivering 400. Article summary: China Telecom’s Hangzhou branch, ZTE, and Zhonghao Xinying built the first phase as a production-oriented, fully domestic TPU stack rather than merely installing accelerators: 1,024 first-generation Chana TPUs were integ. Topic tags: general, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
O aspecto mais relevante do projeto de Hangzhou não é apenas o número de 1.024 chips, mas a integração feita ao redor deles. A filial da China Telecom em Hangzhou, a ZTE e a Zhonghao Xinying combinaram TPUs Chana de primeira geração com a plataforma de computação Taize, servidores, rede de cluster e software de agendamento. O resultado é um sistema declarado de 400 PFLOPS, voltado ao treinamento de grandes modelos, à inferência de IA e à computação científica. A iniciativa é descrita como a primeira implantação em larga escala de um cluster de TPUs domésticas no sistema da China Telecom e como o primeiro cluster chinês de TPU com mil chips no Leste da China. 17
20
O que foi instalado
A primeira fase reúne 1.024 TPUs Chana na plataforma Taize, da Zhonghao Xinying. Segundo os parceiros, a pilha é construída domesticamente em várias camadas: acelerador, hardware de servidores, rede do cluster e agendamento da capacidade computacional. 17
18
Isso faz diferença porque um grande cluster de IA não é simplesmente um conjunto de aceleradores em racks. O desempenho utilizável depende da coordenação entre servidores, malha de rede, software de modelos e agendador. A proposta declarada é transformar a TPU em um serviço de computação operável, e não em uma mera demonstração de chip isolado. 18
Por que separar prefill e decode é o centro da promessa de economia
Na inferência de modelos de linguagem, há duas etapas distintas:
- Prefill: processa o prompt do usuário e monta o contexto de trabalho do modelo.
- Decode: gera os tokens de resposta, um por vez.
Essas fases exigem recursos de formas diferentes. Ao separá-las, a plataforma pode alocar e agendar capacidade para o processamento do prompt e para a geração de tokens de maneira independente, em vez de obrigar um único conjunto de dispositivos a atender aos dois tipos de carga sob a mesma lógica de agendamento.
Na prática, essa arquitetura também exige orquestração do cluster e configuração de rede, como mostram orientações de implantação de serviços SGLang com separação entre prefill e decode. 2
A China Telecom de Hangzhou afirmou que, após meses de ajustes em hardware e software — incluindo versões de modelos, operadores, configurações de servidor, largura de banda de rede e agendamento — a eficiência de saída de tokens aumentou mais de 10 vezes em relação ao início do ano. A empresa também informou que o custo por milhão de tokens caiu de cerca de ¥100 para menos de ¥10. 9
11
Esses dados, porém, devem ser lidos como resultados divulgados pela operadora e pelos participantes do projeto, não como benchmarks universais de TPU. As reportagens disponíveis não detalham quais modelos foram usados, precisão numérica, tamanho de lote, padrão de tráfego, nível de utilização nem o método de cálculo de custos. Sem essas informações, não é possível reproduzir nem comparar de forma independente a economia anunciada com a de outras plataformas de inferência.
O peso do modelo de implantação com três parceiros
O cluster junta capacidades que costumam ser avaliadas separadamente:
- Zhonghao Xinying: fornece a TPU Chana e a plataforma Taize. As reportagens afirmam que a Chana possui núcleo de propriedade intelectual, conjunto de instruções e plataforma de computação desenvolvidos internamente.
18
19
- ZTE: participa da construção conjunta que abrange redes de comunicação, integração de servidores e infraestrutura do cluster.
- China Telecom Hangzhou: oferece o ambiente operacional para entregar e administrar capacidade computacional em escala.
Para uma plataforma de IA baseada em chips domésticos, operar em um ambiente de telecomunicações desloca a prova de valor das especificações máximas do chip para a entrega de serviço: agendamento, adaptação de modelos, comportamento da rede e operação contínua definem se os clientes recebem inferência com capacidade previsível. A arquitetura declarada inclui recursos computacionais, agendamento, adaptação de modelos, gestão operacional e aplicações setoriais. 18
A oportunidade — e o desafio maior do software
Uma TPU é um acelerador de IA orientado a operações com tensores. Seu potencial não está somente no pico de FLOPS, mas na execução eficiente de cargas pesadas em multiplicação de matrizes, comuns no treinamento e na inferência de grandes modelos.
Em escala de cluster, no entanto, o desempenho do acelerador é inseparável da interconexão, do comportamento da memória, da comunicação coletiva entre chips, do agendamento, da confiabilidade e da compatibilidade com modelos e software.
Por isso, uma alternativa doméstica precisa provar mais do que o funcionamento do silício. Modelos, motores de inferência, operadores, técnicas de quantização e fluxos de trabalho dos clientes precisam rodar de forma estável nessa nova pilha tecnológica. As informações disponíveis confirmam a implantação em Hangzhou e a expansão planejada, mas não demonstram paridade ampla com os ecossistemas de software de GPUs mais difundidos, em diferentes modelos e frameworks.
Segunda fase: Xuyu e a meta de 10.000 PFLOPS
Os parceiros planejam uma segunda fase com a TPU Xuyu, de segunda geração da Zhonghao Xinying, elevando a capacidade total planejada para mais de 10.000 PFLOPS. 17
19
A empresa informa que a Xuyu oferece 896 TFLOPS em ponto flutuante de precisão mista e 1.792 TOPS para inferência em 8 bits, com consumo nominal de 600 W. Também afirma que ela entrega cerca de três vezes o desempenho da Chana e consome 50% menos energia do que chips convencionais com desempenho comparável. Essas são especificações divulgadas pela própria empresa. 19
20
No nível de sistema, a Xuyu foi projetada para supernós com até 2.048 chips ligados por interconexão totalmente óptica, segundo apresentação pública da companhia. 20
O que o cluster de Hangzhou efetivamente demonstra
O projeto mostra uma tentativa de montar uma pilha doméstica de computação para IA, do chip à plataforma: acelerador, conjunto de instruções, servidores, rede, agendamento e operação do serviço. 18
19
O teste mais importante será verificar se essa pilha consegue sustentar cargas de produção variadas, com software compatível, desempenho previsível e uma economia transparente. A instalação de 400 PFLOPS e o plano de expansão com a Xuyu são amplamente reportados. Já as alegações mais chamativas — eficiência de saída de tokens mais de 10 vezes maior e custo inferior a ¥10 por milhão de tokens — permanecem como declarações da operadora e dos participantes do projeto até que sejam divulgados a metodologia de benchmark e os detalhes das cargas de trabalho. 9
11
Studio Global AI
Continue sua pesquisa
Esta página inclui uma resposta baseada na fonte que você pode continuar em Studio Global.
As pessoas também perguntam
Qual é a resposta curta para "Como o cluster de TPUs da China Telecom em Hangzhou busca baratear a inferência de IA"?
A primeira fase usa 1.024 TPUs Chana na plataforma Taize e tem capacidade declarada de 400 PFLOPS para treinamento, inferência e computação científica.
Quais são os pontos-chave para validar primeiro?
A primeira fase usa 1.024 TPUs Chana na plataforma Taize e tem capacidade declarada de 400 PFLOPS para treinamento, inferência e computação científica. A China Telecom de Hangzhou afirma que ajustes de hardware e software, incluindo a separação entre prefill e decode, elevaram em mais de 10 vezes a eficiência de geração de tokens.
O que devo fazer a seguir na prática?
A segunda fase deve usar a TPU Xuyu e levar a capacidade planejada acima de 10.000 PFLOPS, mas os números de desempenho e economia ainda dependem de validação independente.