Xing4.0-29B-A4B: especificações, ferramentas e resultados divulgados

O Xing4.0-29B-A4B é um modelo de linguagem da China Telecom AI com pesos disponíveis para download, voltado a programação e a tarefas de agentes de IA — sistemas que podem executar uma sequência de etapas e usar ferramentas. Ele usa uma arquitetura de mistura de especialistas (MoE): tem cerca de 29 bilhões de parâmetros no total, mas ativa aproximadamente 4 bilhões a cada token processado. Essa distinção diz respeito ao cálculo realizado, não significa que uma instalação precise armazenar apenas 4 bilhões de parâmetros. 110

Como funcionam os especialistas e o contexto

O modelo reúne 64 especialistas selecionáveis e um especialista compartilhado. Para cada token, escolhe quatro dos 64, além de usar o compartilhado. A janela de contexto nativa é de 256 mil tokens; os materiais a descrevem como extensível a 512 mil, valor que não deve ser confundido com a capacidade nativa. 12

Arquitetura e treinamento em chips Ascend

O projeto combina atenção latente multihead (MLA), hiperconexões com restrição de variedade (mHC) e predição de múltiplos tokens (MTP). Segundo os materiais do modelo, a MLA busca reduzir as necessidades de memória do cache de atenção; a mHC ajuda a estabilizar o treinamento; e a MTP participa da geração de múltiplos tokens. 15

O treinamento usou hardware Huawei Ascend e o ecossistema MindSpore. Os desenvolvedores relatam que ajustes na comunicação entre especialistas, recomputação seletiva, fusão de operações e operadores próprios em Ascend C elevaram a taxa de processamento do treinamento em aproximadamente 96% em relação à configuração inicial, sem essas otimizações. Trata-se de um ganho relatado no treinamento — não de uma promessa de respostas 96% mais rápidas para quem usar o modelo. 513

Onde baixar e quais ferramentas são citadas

Os pesos estão no Hugging Face, no repositório XingChen-AGI/Xing4.0-29B-A4B, sob licença Apache 2.0. A página do modelo traz exemplos com Transformers e vLLM. Os materiais também citam SGLang e KTransformers para inferência e implantação, além de LLaMA-Factory e MindFormers para ajuste fino. Há adaptações relatadas para os frameworks de agentes OpenCode, Claude Code, OpenClaw e Hermes. 12138

O que os números de desempenho e memória realmente dizem

Entre os resultados divulgados estão 75,00 no SWE-bench Verified, 57,50 no Terminal-Bench 2.1 e 93,52 na avaliação de agentes do SuperCLUE. São números apresentados nos materiais do modelo e na cobertura de seu lançamento; não devem ser lidos como resultados reproduzidos de forma independente. 6198

A China Telecom afirma ainda que quantização de baixa precisão e otimizações podem reduzir o uso de memória de GPU a cerca de 15 GB. Outra cobertura associa esse número a uma versão quantizada em 4 bits. É uma estimativa para determinadas condições de implantação, não uma garantia para qualquer computador: a quantização escolhida, a configuração do software de execução e o tamanho do contexto influenciam a memória necessária. 68