RéponsesPublié19 sources
Qwen3.8-2.4T-A95B : que vaut le modèle open weight de 2 400 milliards de paramètres d’Alibaba en auto-hébergement ?
Qwen3.8 2.4T A95B est le modèle textuel open weight de la gamme phare Qwen Max : 2 400 milliards de paramètres au total, dont environ 95 milliards activés par jeton. Ses 262 144 jetons de contexte natif, extensibles à un million dans certaines configurations, ne dispensent pas de gérer un cache KV coûteux, des promp...
Publié parModifié avec GPT-5.6 TerraImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- Qwen3.8 2.4T A95B est le modèle textuel open weight de la gamme phare Qwen Max : 2 400 milliards de paramètres au total, dont environ 95 milliards activés par jeton.
- Ses 262 144 jetons de contexte natif, extensibles à un million dans certaines configurations, ne dispensent pas de gérer un cache KV coûteux, des prompts longs et une infrastructure multi nœuds.
- Les poids ouverts apportent du contrôle sur les données et l’adaptation du modèle, mais la licence est personnalisée et le déploiement vise surtout les clouds, grands groupes et équipes de recherche bien équipées.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Qwen3.8-2.4T-A95B, and what do its open-weight release, Qwen-Max-class status, 2.4-trillion-parameter/95-billion-active-pa. Article summary: Alibaba’s Qwen3.8-2.4T-A95B is an open-weight, text-generation release of its Qwen3.8-Max/“Max-class” flagship: a very large sparse Mixture-of-Experts (MoE) model rather than a model that can realistically be run like an. Topic tags: general, documentation, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Qwen3.8-2.4T-A95B est la version à poids ouverts du niveau phare Qwen3.8-Max d’Alibaba. Son intérêt n’est pas de rendre un modèle de 2 400 milliards de paramètres facile à exploiter : il permet surtout à des organisations de récupérer et d’adapter les poids, plutôt que de dépendre exclusivement d’une API gérée. Cela le destine d’abord aux fournisseurs de cloud, aux grandes entreprises, aux environnements réglementés et aux équipes de recherche capables d’opérer une inférence distribuée à grande échelle. 1
18
21
En bref : un MoE géant, pas un modèle « local »
Qwen3.8-2.4T-A95B est un modèle de génération de texte sparse de type Mixture of Experts (MoE). Il totalise 2 400 milliards de paramètres, mais n’en active qu’environ 95 milliards par jeton. La documentation NVIDIA indique 92 couches, 512 experts routés et une sélection des dix experts les plus pertinents à chaque étape. 18
21
La nuance est cruciale. Dans un MoE, tous les paramètres ne sont pas calculés pour chaque jeton : le coût de calcul par jeton peut donc être inférieur à celui d’un modèle dense de taille équivalente. En revanche, il faut toujours stocker ou répartir les poids, organiser le parallélisme entre experts, disposer d’un réseau rapide et absorber la mémoire consommée par le cache KV (key-value cache).
Son architecture associe Gated DeltaNet et attention à portes. Elle vise les tâches textuelles à long contexte, mais les performances utiles dépendront toujours du cas réel : longueur des requêtes, nombre d’utilisateurs simultanés, précision numérique retenue et moteur de service. 1
19
Contexte long : une capacité à valider, pas une promesse de coût fixe
Le contexte natif atteint 262 144 jetons. NVIDIA décrit aussi des déploiements avec une fenêtre allant jusqu’à un million de jetons ; la sortie maximale indiquée est d’environ 131 000 jetons. 1
19
21
Ces plafonds ne signifient pas qu’une requête d’un million de jetons sera rapide, économique ou d’une qualité constante. Les très longs prompts augmentent le travail de préremplissage (prefill) et la pression sur le cache KV. Pour l’analyse de corpus, les documents très longs ou les traces d’agents, il faut donc mesurer les performances sur les longueurs de requêtes et le niveau de concurrence effectivement attendus.
Raisonnement, code et agents : une base puissante, mais incomplète seule
Le modèle propose le réglage reasoning_effort avec les niveaux low, medium et xhigh, afin d’arbitrer entre vitesse, coût et profondeur de raisonnement. Les réglages publiés privilégient la conservation du contenu de réflexion. 1
Qwen3.8-2.4T-A95B peut ainsi convenir à des tâches textuelles exigeantes : programmation, synthèse de recherche, analyse documentaire ou flux de travail agentiques. Mais un agent de production ne se résume pas à un bon modèle : définitions d’outils, contrôle des permissions, isolation de l’exécution, reprises sur erreur, journalisation et évaluations restent à construire côté application.
Le point de vigilance est que le checkpoint ouvert est uniquement textuel et que le raisonnement ne peut pas être désactivé. Les organisations ayant besoin d’entrées image ou vidéo, d’un mode conversationnel non raisonneur à faible latence, ou d’outils intégrés doivent distinguer ce checkpoint téléchargeable de l’offre hébergée Qwen3.8-Max. 3
8
21
Des poids ouverts, davantage de contrôle — pas moins de complexité
Les poids ouverts donnent potentiellement davantage de maîtrise sur la localisation des données, la topologie de déploiement, la personnalisation et le post-entraînement qu’une offre API seule. NeMo AutoModel de NVIDIA prend en charge le fine-tuning de tous les paramètres avec FSDP2, parallélisme d’experts et parallélisme de pipeline, soit une voie spécialisée pour adapter le modèle. 18
La contrepartie est un seuil opérationnel très élevé. La documentation NIM de NVIDIA décrit un chemin de déploiement réservé aux GB300-NVL72, nécessitant au moins quatre nœuds et Kubernetes. Les recettes Dynamo s’appuient sur vLLM ou SGLang, des poids et un cache KV en FP8, du parallélisme tensoriel et un routage tenant compte du cache KV ; une configuration documentée utilise 16 GPU GB300 sur quatre nœuds. 19
21
Il s’agit de configurations de référence validées par un fournisseur, et non de minimums universels. Elles illustrent néanmoins l’environnement visé : ce modèle n’est généralement ni un projet d’ordinateur portable, ni un déploiement classique sur un serveur unique.
Les choix de service qui feront la différence
À cette échelle, l’architecture d’inférence peut décider de la viabilité du projet.
- Quantification : réduire la précision peut abaisser l’empreinte mémoire, à condition de valider la qualité et la stabilité sur les tâches cibles. AWS cite notamment FP8, MXFP4 et NVFP4 parmi les formats pouvant réduire les besoins mémoire en inférence.
- Préremplissage et décodage séparés : l’ingestion d’un prompt et la génération jeton par jeton n’ont pas les mêmes goulets d’étranglement. AWS décrit la séparation de ces phases sur des pools de GPU distincts pour limiter les interférences et améliorer la latence par jeton dans les charges adaptées.
- Décodage spéculatif : un mécanisme moins coûteux propose des jetons que le modèle cible vérifie ensuite ; lorsque les propositions sont acceptées, cela réduit le travail de décodage sériel.
- Service distribué : les recettes NVIDIA associent le modèle à vLLM ou SGLang, avec routage sensible au cache KV, FP8 et parallélisme multi-nœuds sur des systèmes GB200 ou GB300.
19
NVIDIA annonce plus de 4 000 jetons par seconde et par GPU, ainsi que plus de 350 jetons par seconde et par utilisateur, pour une configuration GB300 NVL72 FP8 disponible dès le lancement. Ce sont des mesures du fournisseur sur un couple matériel-logiciel précis, pas une garantie transposable à toutes les charges de production.
La licence : open weight ne veut pas dire licence permissive
Le modèle est distribué sous une licence sur mesure, la Qwen3.8-Max License, et non sous Apache-2.0 ou MIT. Elle accorde de larges droits d’utilisation, de modification, de distribution, d’hébergement, de fine-tuning et de création de travaux dérivés, sous certaines conditions.
Des synthèses de la licence font état d’obligations supplémentaires pour certaines activités de Model as a Service et d’assistant IA au-delà d’un seuil de revenus donné. Ces conditions pouvant affecter le déploiement commercial et la redistribution en aval, les équipes doivent lire la version actuelle du texte de licence et solliciter un avis juridique avant toute mise sur le marché. 3
10
Qwen3.8-Max hébergé ou A95B auto-hébergé ?
Le produit hébergé Qwen3.8-Max est présenté comme une version officielle basée sur A95B, enrichie de fonctions supplémentaires : entrées visuelles, mode sans raisonnement, contexte d’un million de jetons par défaut et outils intégrés officiels. 8
12
En pratique :
- Choisissez l’offre hébergée si la montée en charge gérée, le multimodal, les outils intégrés et la simplicité d’exploitation priment sur le contrôle de l’infrastructure.
- Envisagez l’auto-hébergement d’A95B si la souveraineté des données, un comportement de service sur mesure, le fine-tuning ou une utilisation soutenue justifient les coûts d’exploitation.
Le checkpoint ouvert n’est donc pas un substitut fonctionnel complet du produit managé. C’est une très puissante base textuelle ; à l’organisation utilisatrice de fournir les couches produit et infrastructure autour.
Comment lire les benchmarks
Qwen positionne A95B comme un modèle de classe Max et publie de solides résultats sur des benchmarks de code, de recherche et de raisonnement. Ces résultats constituent des signaux utiles, mais ne prouvent pas que le modèle est le meilleur pour chaque tâche ou chaque environnement de déploiement. 6
La décision devrait venir d’une évaluation concrète : langues visées, séquences d’outils, longueur des sources de récupération, formats de sortie, exigences de sûreté, objectifs de latence et budget. La question centrale n’est pas seulement de savoir si 95 milliards de paramètres actifs sont impressionnants. Elle est de déterminer si le gain de capacité justifie le coût et la complexité d’exploitation d’un modèle de 2 400 milliards de paramètres.
À retenir
Qwen3.8-2.4T-A95B est une sortie importante, car elle rend disponible un modèle textuel Qwen de classe Max, MoE et de 2 400 milliards de paramètres, à des organisations qui veulent contrôler leurs poids et leur déploiement. Son caractère sparse améliore l’équation de calcul face à un modèle dense comparable, mais il reste un projet d’ingénierie de systèmes distribués.
Pour les équipes disposant des moyens nécessaires, il peut offrir une inférence textuelle de haut niveau, personnalisable et souveraine, ainsi qu’une voie de post-entraînement. Pour les petites équipes qui cherchent un déploiement local simple, un modèle plus petit ou un point d’accès managé sera, dans la plupart des cas, plus réaliste. 18
19
21
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « Qwen3.8-2.4T-A95B : que vaut le modèle open weight de 2 400 milliards de paramètres d’Alibaba en auto-hébergement ? » ?
Qwen3.8 2.4T A95B est le modèle textuel open weight de la gamme phare Qwen Max : 2 400 milliards de paramètres au total, dont environ 95 milliards activés par jeton.
Quels sont les points clés à valider en premier ?
Qwen3.8 2.4T A95B est le modèle textuel open weight de la gamme phare Qwen Max : 2 400 milliards de paramètres au total, dont environ 95 milliards activés par jeton. Ses 262 144 jetons de contexte natif, extensibles à un million dans certaines configurations, ne dispensent pas de gérer un cache KV coûteux, des prompts longs et une infrastructure multi nœuds.
Que dois-je faire ensuite en pratique ?
Les poids ouverts apportent du contrôle sur les données et l’adaptation du modèle, mais la licence est personnalisée et le déploiement vise surtout les clouds, grands groupes et équipes de recherche bien équipées.