OpenAI brûle 3,7 milliards $ par trimestre : ses deux leviers pour réduire de moitié le coût de l'inférence IA

La solution logicielle : le routage multi-modèles

L'optimisation logicielle spécifique qu'OpenAI a développée pour réduire les coûts d'inférence de plus de moitié est le routage multi-modèles. Cette technique achemine automatiquement les requêtes simples vers des modèles plus petits et moins chers, tout en réservant les modèles les plus puissants (et les plus coûteux) aux demandes complexes .

Les guides du secteur décrivent cette approche hybride comme permettant une réduction de 30 à 75 % au niveau du modèle, grâce à la quantification, la distillation et le dimensionnement adéquat, combinés à des optimisations d'exécution comme le batching, le décodage spéculatif et la gestion du cache KV, qui peuvent générer des gains de débit de 40 à 80 % . OpenAI a également opérationnalisé cette stratégie en offrant des réductions de 50 % pour l'inférence différée via son API Batch — à condition que les clients acceptent d'attendre jusqu'à 24 heures pour les résultats .

Au-delà du routage, des ingénieurs d'OpenAI ont confié à The Information que ces techniques sont si puissantes qu'à un moment donné, ils ont servi ChatGPT aux visiteurs non connectés avec seulement quelques centaines de GPU Nvidia .

L'initiative matérielle : la puce d'inférence sur mesure Jalapeño

Le 24 juin 2026, OpenAI et Broadcom ont dévoilé Jalapeño, la première puce d'inférence sur mesure d'OpenAI . Voici l'essentiel :

• Type : Circuit intégré spécifique à une application (ASIC) — pas un GPU, conçu uniquement pour l'inférence des grands modèles de langage
• Réduction des coûts : Les premiers tests montrent un coût par inférence environ 50 % inférieur à celui du matériel d'inférence actuel basé sur les GPU Nvidia
• Performance : Offre des performances par watt « substantiellement meilleures » que l'état de l'art actuel
• Développement : Conçu de zéro jusqu'à la production en seulement neuf mois, accéléré par les propres modèles d'IA d'OpenAI qui ont assisté la conception de la puce
• Déploiement : Déploiement à l'échelle du gigawatt visé pour fin 2026
• Engagement à long terme : Dans le cadre d'un engagement d'infrastructure de 10 GW jusqu'en 2029
• Économies annuelles : La réduction de 50 % des coûts pourrait se traduire par 500 millions à 1 milliard $ d'économies annuelles pour OpenAI d'ici 2028

OpenAI décrit cette puce comme « la première brique d'une feuille de route pluriannuelle en matière de silicium sur mesure » visant à construire sa propre pile de calcul et à contrer le pouvoir de fixation des prix de Nvidia . La puce est intégrée verticalement — OpenAI l'utilisera exclusivement pour ses propres charges de travail d'inférence, sans la vendre à des clients externes .

Les pressions financières en détail

Chiffres clés issus des documents destinés aux actionnaires pour le T1 2026 :

• Revenus : 5,7 milliards $ (environ triplés sur un an)
• Consommation de cash : 3,7 milliards $ (également triplée sur un an)
• Perte opérationnelle : 9,3 milliards $ sur le seul T1
• Perte nette : 21,3 milliards $ (y compris 2,3 milliards $ de rémunération en actions et une charge comptable non monétaire de 12,4 milliards $)
• Dépenses de R&D : 8,6 milliards $
• Marge brute : Légèrement améliorée, à 39 %
• Réserves de cash : 73 milliards $ en liquidités et titres, offrant une marge de manœuvre malgré les pertes massives

La marge opérationnelle de l'entreprise était d'environ -122 %, ce qui signifie qu'elle perdait environ 1,22 $ pour chaque dollar gagné . Sur l'ensemble de l'année 2025, OpenAI a enregistré environ 38,5 milliards $ de pertes sur 34 milliards $ de dépenses .

La course de fond dans l'industrie : l'effondrement des coûts d'inférence

Les mesures de réduction des coûts d'OpenAI s'inscrivent dans une guerre des prix généralisée qui redessine l'économie de l'IA :

• Anthropic a accéléré sa croissance client et dépassé OpenAI dans l'adoption par les entreprises américaines (34,4 % contre 32,3 %) en mai 2026 .
• Les modèles open source compriment les prix : quatre modèles chinois à poids ouverts égalent désormais les performances de codage de pointe pour un tiers du coût des alternatives propriétaires . DeepSeek V4 serait cinquante fois moins cher à faire fonctionner que Claude Opus 4.6 .
• Le Gemini 3.1 Flash de Google coûte 0,10 $ par million de tokens d'entrée — une réduction de prix de 99,7 % en trois ans .
• Le Claude Sonnet 4.6 d'Anthropic surpasse GPT-4 sur tous les référentiels historiques à 3 $ par million de tokens d'entrée .
• Les coûts d'inférence ont chuté d'environ 50 fois en trois ans, le marché devant passer de 103 milliards $ (2025) à 255 milliards $ (2030) .
• OpenAI envisage des baisses de prix significatives par token pour les développeurs et les entreprises, afin de devancer des mouvements similaires d'Anthropic .
• Les clients utilisent de plus en plus d'outils de routage multi-modèles pour mélanger des modèles moins chers et éviter les prix premium d'un fournisseur unique .

Ce que cela signifie pour l'industrie de l'IA

La combinaison des optimisations logicielles et matérielles permet à OpenAI de potentiellement réduire de moitié ses coûts d'inférence tout en montant en échelle. Mais l'entreprise n'agit pas en vase clos. L'effondrement général des prix de l'inférence — alimenté par les concurrents, les alternatives open source et le matériel spécialisé — signifie que le pouvoir de fixation des prix s'érode dans toute l'industrie .

Pour les entreprises, c'est une bonne nouvelle : le coût effectif de l'exécution des charges de travail d'IA diminue plus vite que les capacités n'augmentent. L'API Batch d'OpenAI offre déjà des réductions de 50 % pour les charges de travail différées, tandis que le routage multi-modèles peut réduire les coûts de 40 à 60 % sans sacrifier la qualité . La question est de savoir si un fournisseur unique peut maintenir des prix élevés dans un marché où les modèles open source chinois offrent des capacités de pointe à une fraction du coût .