Les agents IA font exploser les tokens : ce que révèle la journée à 8 000 milliards de DeepSeek V4 Flash

Un volume déclaré de 8 000 milliards de tokens en une journée sur OpenCode ne raconte pas seulement le succès d’un modèle. Il signale surtout que l’unité de travail de l’IA est en train de changer.

Pour de plus en plus de développeurs, l’achat n’est plus une simple réponse de chatbot, mais une boucle d’agent : lire un dépôt de code, élaborer un plan, modifier des fichiers, lancer un programme, examiner l’erreur, puis réessayer.

OpenCode a indiqué que DeepSeek V4 Flash avait traité 8 000 milliards de tokens le 1er août, dont 5 000 milliards en essais gratuits et 3 000 milliards via son offre payante Go. À titre de comparaison, le classement hebdomadaire d’OpenRouter pour la période du 27 juillet au 2 août attribuait 7 220 milliards de tokens à V4 Flash sur l’ensemble de cette plateforme. Ces chiffres sont déclarés par les plateformes, et non issus d’un audit indépendant de tout l’usage du modèle ; leur contraste donne néanmoins une idée de l’échelle que peuvent atteindre les flux de travail agentiques. 202329

Pourquoi les agents consomment autant de tokens

Une demande adressée à un chatbot tient généralement dans un prompt relativement court, suivi d’une réponse limitée. Un agent de développement travaille avec un ensemble bien plus vaste : fichiers sources, sorties du terminal, échecs de tests, décisions précédentes, correctifs générés et appels répétés à des outils. À chaque nouvelle tentative, il peut devoir reprendre une large part de ce contexte.

Les données publiées par OpenCode pour V4 Flash font état d’environ 12 millions de tokens par session en moyenne et d’un taux de cache des entrées de 95 %. Cela ne prouve pas que chaque session corresponde à une tâche de programmation autonome de bout en bout. En revanche, ces indicateurs sont cohérents avec un usage itératif sur de très longs contextes, plutôt qu’avec des conversations brèves. 25

La différence est essentielle : l’utilisateur ne valorise pas un nombre de tokens. Il valorise une pull request fusionnée, une suite de tests qui passe, un prototype fonctionnel ou un processus exécuté correctement.

Une façon pragmatique d’évaluer un modèle est donc la suivante :

Coût par tâche acceptée = coût total du modèle et de la boucle d’outils ÷ probabilité que la tâche atteigne le niveau exigé.

Cette formule inclut les tentatives ratées, les relances, la validation humaine, la latence et le coût de correction des erreurs — pas seulement les tarifs affichés pour les tokens d’entrée et de sortie.

Des tokens moins chers rendent les nouvelles tentatives viables

Les informations publiées autour de V4 Flash mentionnent un tarif direct de 0,14 $ par million de tokens d’entrée et de 0,28 $ par million de tokens de sortie. 12 À ce niveau de prix, il devient plus réaliste de conserver davantage de contexte, de lancer plus de tests automatisés et de laisser un agent itérer plusieurs fois avant de solliciter un humain.

Cela ne signifie pas qu’un modèle moins cher est systématiquement le meilleur. Mais lorsqu’un agent doit enchaîner de nombreux tours pour accomplir des tâches courantes, un faible écart de qualité peut être compensé par un écart de coût très important.

Une comparaison citée attribuait ainsi un score de 50 à V4 Flash Max, contre 56 à Claude Opus 4.8 Max, dans l’Intelligence Index v4.1 d’Artificial Analysis. Le coût déclaré pour exécuter l’intégralité de la suite d’évaluation était de 72,02 $ pour le premier, contre 3 752,55 $ pour le second. L’écart de coût est considérable pour six points d’écart au score — mais une évaluation n’est pas une garantie de fiabilité équivalente en conditions réelles. 16

Pour les tâches difficiles ou à fort enjeu, un modèle haut de gamme peut encore coûter moins cher par résultat accepté s’il réduit nettement les déploiements défaillants, la supervision ou le travail de reprise. L’enjeu n’est donc pas de choisir le modèle le moins cher partout, mais d’orienter chaque tâche selon le coût complet nécessaire pour atteindre un résultat acceptable.

La « kill line » de DeepSeek met surtout le milieu du marché sous pression

L’expression « DeepSeek kill line » doit être comprise comme une métaphore de marché. Elle désigne la pression exercée sur les modèles beaucoup plus coûteux qu’une alternative proche de la frontière des performances, sans qu’ils produisent pour autant un résultat nettement supérieur sur la tâche demandée.

Trois catégories ne sont pas exposées de la même manière :

• Les modèles de routage très bon marché restent utiles pour la classification, l’extraction, les transformations courtes et le tri à très grand volume, où la vitesse et le coût unitaire minimal priment sur le raisonnement avancé.
• Les modèles phares premium conservent une place pour les cas les plus ardus : raisonnement de longue durée, très forte fiabilité, travail multimodal, exigences de gouvernance ou situations où la vérification humaine est coûteuse.
• Les modèles intermédiaires font face au test le plus sévère. S’ils coûtent sensiblement plus cher que Flash, ils doivent démontrer de meilleurs taux d’achèvement, une latence moindre, un usage des outils plus solide, de meilleures intégrations, du support ou des contrôles d’entreprise — et pas seulement un léger avantage sur un benchmark.

Autrement dit, les modèles agentiques peu coûteux peuvent devenir les exécutants par défaut, tandis que les modèles premium sont réservés aux escalades. Le segment intermédiaire doit prouver qu’il réduit réellement le coût total de la tâche.

Les choix techniques qui visent l’économie des agents

DeepSeek V4 Flash est un modèle à mixture of experts (MoE, ou mélange d’experts) : il compte 284 milliards de paramètres au total, mais environ 13 milliards seulement sont activés pour chaque token. Il prend aussi en charge une fenêtre de contexte d’un million de tokens. 17

Cette conception sépare la capacité globale du modèle de la puissance de calcul mobilisée à chaque token généré.

Son efficacité repose notamment sur plusieurs éléments :

• Routage MoE : seule une partie des experts est activée pour un token, ce qui réduit le calcul actif par rapport à un modèle dense qui exécuterait tous ses paramètres. 17
• Attention hybride : la famille V4 combine la Compressed Sparse Attention (CSA) et la Heavily Compressed Attention (HCA), deux mécanismes conçus pour réduire la charge de calcul et de mémoire liée aux contextes très longs. 1733
• Réduction de la charge du cache : NVIDIA indique que ces innovations d’attention visent, dans la comparaison citée avec DeepSeek-V3.2, une baisse de 73 % des FLOPS d’inférence par token et de 90 % de la pression mémoire du cache KV. 33
• Flux de travail tenant compte du cache : dans une session d’agent qui renvoie régulièrement le même contexte de dépôt et les mêmes traces d’outils, une forte réutilisation du cache peut modifier fortement le coût réel. Le ratio de cache de 95 % rapporté par OpenCode illustre l’importance de ce détail opérationnel. 25

Ce ne sont pas de simples caractéristiques techniques. Elles déterminent s’il est économiquement raisonnable de laisser un agent inspecter une grande base de code, utiliser des outils et se remettre de plusieurs erreurs avant de fournir un résultat.

La nouvelle frontière : capacité, fiabilité et coût marginal d’itération

Les benchmarks de capacité restent utiles, mais ils ne suffisent plus à comparer des agents. Pour ces usages, il faut examiner trois dimensions à la fois :

1. La capacité : le modèle sait-il résoudre cette catégorie de tâches ?
2. La fiabilité : à quelle fréquence fournit-il un résultat acceptable sans intervention coûteuse ?
3. Le coût marginal d’itération : combien coûte un appel d’outil, une révision, un test supplémentaire ou une tentative de récupération ?

La journée à 8 000 milliards de tokens rend ce troisième facteur visible. À mesure que les agents remplacent les requêtes ponctuelles, la consommation de tokens peut croître de plusieurs ordres de grandeur. Les modèles qui rendent les longs contextes et les nouvelles tentatives abordables peuvent alors devenir le choix par défaut pour les charges de travail agentiques répétitives et étendues — même si un modèle phare plus performant reste préférable pour les cas les plus exigeants. 202533