GLM-5.3-FlashX : une version plus rapide de Flash, des performances encore à vérifier

Pour un développeur, la distinction est simple : GLM-5.3-FlashX est l’offre rapide accessible par API, tandis que GLM-5.3-Flash est le modèle de base publié avec des poids ouverts. Zhipu AI présente FlashX comme une amélioration de la vitesse d’inférence et de l’infrastructure qui fournit les réponses, pas comme une nouvelle architecture documentée ou une seconde publication de poids ouverts. 14

Vitesse annoncée et différence de prix

GLM-5.3-Flash est un modèle multimodal à mélange d’experts : il compte 320 milliards de paramètres au total, dont 18 milliards activés, et Zhipu lui attribue une fenêtre de contexte pouvant atteindre un million de tokens. Pour FlashX, l’entreprise annonce jusqu’à 200 tokens générés par seconde. Il s’agit d’une vitesse maximale déclarée par le fournisseur, et non d’un gain établi face à Flash dans un essai réalisé à conditions identiques. 17

Cette vitesse a un tarif distinct. Les prix API indiqués sont de 0,37 $ par million de tokens en entrée et 1,25 $ en sortie pour FlashX, contre 0,15 $ et 0,50 $ pour Flash. Le token généré revient donc environ 2,5 fois plus cher avec FlashX. Un coût d’exploitation potentiellement compétitif pour Zhipu ne signifie pas nécessairement un prix inférieur pour son client. 45

Ce que Zhipu dit avoir optimisé

Selon Zhipu, le trafic de production de Flash est pris en charge par plus de 100 000 accélérateurs d’IA fabriqués en Chine. L’entreprise affirme qu’un Infra Agent, alimenté par GLM-5.3, a aidé ses équipes à repérer des goulets d’étranglement, à modifier du code et à optimiser le système qui sert les requêtes. Les travaux rapportés comprennent notamment une réduction d’un problème de concurrence lors du transfert du cache KV — des données conservées pendant la génération — et l’amélioration d’un composant logiciel de décodage. 56

Zhipu attribue à ce déploiement, achevé en moins de deux semaines, un débit de traitement de bout en bout multiplié par 3,2 par rapport à son point de départ. Ce chiffre mesure la capacité du système à traiter du trafic ; il ne correspond pas à la vitesse de génération ressentie par chaque utilisateur. L’entreprise affirme aussi que l’utilisation du matériel et le coût de traitement par token sont comparables à ceux de déploiements courants sur GPU Nvidia. 6137

Ce qui reste à confirmer

Des mesures indépendantes restent nécessaires pour vérifier la tenue des 200 tokens/s dans la durée, la latence et la fiabilité en cas de requêtes simultanées. Il faudrait aussi confirmer le nombre d’accélérateurs et le périmètre du trafic concerné, isoler la contribution de l’Infra Agent de celle des ingénieurs, puis reproduire le gain de débit à partir d’un point de départ clairement défini. Enfin, la comparaison des coûts avec les GPU Nvidia demanderait un audit à conditions équivalentes. Les comptes rendus disponibles relaient principalement les chiffres de Zhipu plutôt qu’ils ne les établissent indépendamment. 156