OpenAIs 3,7-Milliarden-Dollar-Problem im Quartal: Software und eigener Chip sollen KI-Kosten halbieren

Der Software-Fix: Multi-Model-Routing

Die spezifische Software-Optimierung, die OpenAI entwickelt hat, um die Inferenzkosten um mehr als die Hälfte zu senken, ist das Multi-Model-Routing. Diese Technik leitet einfache Anfragen automatisch an kleinere, günstigere Modelle weiter, während die leistungsstärksten (und teuersten) Modelle nur für komplexe Anfragen reserviert werden .

Branchenführer beschreiben diesen hybriden Ansatz als eine Kostenreduzierung von 30 bis 75 Prozent auf der Modellebene durch Quantisierung, Destillation und optimierte Modellgröße. In Kombination mit Laufzeitoptimierungen wie Batching, spekulativem Decoding und KV-Cache-Management können Durchsatzsteigerungen von 40 bis 80 Prozent erzielt werden . OpenAI hat dies auch kommerziell umgesetzt, indem es über seine Batch-API 50 Prozent Preisnachlass für zeitlich flexible Inferenz anbietet – vorausgesetzt, die Kunden warten bis zu 24 Stunden auf die Ergebnisse .

Darüber hinaus berichteten Ingenieure von OpenAI gegenüber ‚The Information‘, dass die Techniken so leistungsfähig seien, dass sie ChatGPT für ausgeloggte Besucher zeitweise mit nur ein paar hundert Nvidia-GPUs betreiben konnten .

Die Hardware-Initiative: Der Jalapeño-Inferenzchip

Am 24. Juni 2026 stellten OpenAI und Broadcom Jalapeño vor, den ersten maßgeschneiderten Inferenzchip von OpenAI . Die wichtigsten Details:

• Typ: Anwendungsspezifische integrierte Schaltung (ASIC) – keine GPU, sondern speziell für die LLM-Inferenz entwickelt
• Kostensenkung: Erste Tests zeigen etwa 50 Prozent niedrigere Kosten pro Inferenz im Vergleich zur aktuellen Nvidia-GPU-basierten Inferenzhardware
• Leistung: Liefert ein „erheblich besseres“ Leistungsverhältnis pro Watt als der aktuelle Stand der Technik
• Entwicklung: Vom Entwurf bis zur Produktion in nur neun Monaten, beschleunigt durch OpenAIs eigene KI-Modelle, die beim Chipdesign halfen
• Einsatz: Die Auslieferung im Gigawatt-Maßstab ist für Ende 2026 geplant
• Langfristiges Engagement: Teil einer 10-GW-Infrastrukturverpflichtung bis 2029
• Jährliche Ersparnis: Die 50-prozentige Kostensenkung könnte sich bis 2028 in jährlichen Einsparungen von 500 Millionen bis 1 Milliarde US-Dollar für OpenAI niederschlagen

OpenAI bezeichnet den Chip als „den ersten Baustein für eine mehrjährige kundenspezifische Silizium-Roadmap“, um einen eigenen Rechen-Stack aufzubauen und Nvidias Preismacht entgegenzutreten . Der Chip ist vertikal integriert – OpenAI wird ihn ausschließlich für seine eigenen Inferenz-Workloads nutzen und nicht an externe Kunden verkaufen .

Die finanziellen Belastungen im Detail

Wichtige Kennzahlen aus den Aktionärsdokumenten für das erste Quartal 2026:

• Umsatz: 5,7 Milliarden US-Dollar (etwa verdreifacht im Vergleich zum Vorjahr)
• Cash-Burn: 3,7 Milliarden US-Dollar (ebenfalls verdreifacht im Vergleich zum Vorjahr)
• Operativer Verlust: 9,3 Milliarden US-Dollar allein im ersten Quartal
• Nettoverlust: 21,3 Milliarden US-Dollar (einschließlich aktienbasierter Vergütung von 2,3 Milliarden US-Dollar und einer nicht zahlungswirksamen Buchungsgebühr von 12,4 Milliarden US-Dollar)
• F&E-Ausgaben: 8,6 Milliarden US-Dollar
• Bruttomarge: Leicht verbessert auf 39 Prozent
• Barmittelreserven: 73 Milliarden US-Dollar in bar und Wertpapieren, die trotz massiver Verluste eine gewisse finanzielle Reichweite bieten

Die operative Marge des Unternehmens lag bei etwa -122 Prozent, was bedeutet, dass es für jeden verdienten Dollar etwa 1,22 Dollar verlor . Im gesamten Jahr 2025 verzeichnete OpenAI Verluste von rund 38,5 Milliarden US-Dollar bei Ausgaben von 34 Milliarden US-Dollar .

Der breitere Branchenwettlauf: Die Kosten für Inferenz brechen ein

OpenAIs Sparbemühungen sind Teil eines breiter angelegten Preiskampfs in der Branche, der die Wirtschaftlichkeit von KI neu gestaltet:

• Anthropic hat das Kundenwachstum beschleunigt und OpenAI bei der Nutzung durch Unternehmen in den USA überholt (34,4 Prozent gegenüber 32,3 Prozent) – Stand Mai 2026 .
• Open-Source-Modelle setzen die Preise unter Druck: Vier chinesische Open-Weights-Modelle erreichen inzwischen die Leistungsfähigkeit der besten Modelle bei Codier-Benchmarks – zu einem Drittel der Kosten der proprietären Alternativen . DeepSeek V4 soll Berichten zufolge fünfzigmal billiger im Betrieb sein als Claude Opus 4.6 .
• Googles Gemini 3.1 Flash kostet 0,10 US-Dollar pro Million Input-Tokens – eine Preissenkung von 99,7 Prozent in drei Jahren .
• Anthropics Claude Sonnet 4.6 übertrifft GPT-4 in allen etablierten Benchmarks zu einem Preis von 3 US-Dollar pro Million Input-Tokens .
• Die Inferenzkosten sind in drei Jahren um etwa das 50-fache gefallen, wobei der Markt von 103 Milliarden US-Dollar (2025) auf 255 Milliarden US-Dollar (2030) wachsen soll .
• OpenAI erwägt erhebliche Preissenkungen pro Token für Entwickler und Unternehmenskunden, um ähnlichen Schritten von Anthropic zuvorzukommen .
• Kunden setzen zunehmend Multi-Model-Routing-Tools ein, um günstigere Modelle zu mischen und zu kombinieren und so die Premiumpreise einzelner Anbieter zu vermeiden .

Was das für die KI-Branche bedeutet

Die Kombination aus Software- und Hardware-Optimierungen positioniert OpenAI so, dass es seine Inferenzkosten möglicherweise halbieren kann, selbst wenn es skaliert. Aber das Unternehmen agiert nicht im luftleeren Raum. Der allgemeine Einbruch der Inferenzpreise – angetrieben durch Konkurrenten, Open-Source-Alternativen und spezialisierte Hardware – bedeutet, dass die Preismacht in der gesamten Branche schwindet .

Für Unternehmen ist das eine gute Nachricht: Die effektiven Kosten für den Betrieb von KI-Workloads sinken schneller, als die Fähigkeiten wachsen. OpenAIs Batch-API bietet bereits 50 Prozent Rabatt für zeitlich flexible Workloads, während Multi-Model-Routing die Kosten um 40 bis 60 Prozent senken kann, ohne die Qualität zu beeinträchtigen . Die Frage ist, ob ein einzelner Anbieter Premiumpreise aufrechterhalten kann in einem Markt, in dem chinesische Open-Source-Modelle Spitzenleistungen zu einem Bruchteil der Kosten bieten .