Cloudflare AI Gateway bekommt echte Kostenkontrolle: Dollar-Budgets statt Anfragenlimits

Unternehmen, die aggressiv auf KI setzen, kennen diesen Albtraum: eine unerwartete vier- oder fünfstellige Rechnung, und niemand kann nachvollziehen, welches Team, welcher Benutzer oder welcher automatisierte Prozess die Kosten verursacht hat. Cloudflares Update für das AI Gateway vom 5. Juni 2026 geht dieses Problem direkt an: Es verlagert die Kostenkontrolle von der reinen Zählung von Anfragen hin zur Verfolgung echter Dollarbeträge und knüpft diese Budgets an individuelle Identitäten .

Wie die Dollar-basierten Ausgabenlimits funktionieren

Die entscheidende Neuerung ist der Wechsel von traditionellem Rate Limiting – also der Begrenzung der Anzahl der API-Anfragen – hin zu kostenbasierten Budgets. Diese erfassen die kumulierten Ausgaben in US-Dollar, basierend auf der tatsächlichen Token-Nutzung und den Preisen der KI-Modelle . Geht eine Anfrage beim Gateway ein, berechnet es die Kosten anhand der bekannten Modellpreise und der verbrauchten Tokens. Überschreiten die Gesamtausgaben innerhalb des festgelegten Zeitfensters das Limit, wird die Anfrage mit einer HTTP-429-Antwort („Zu viele Anfragen“) blockiert .

Budget-Geltungsbereiche und Konfiguration

Diese Limits sind keine Einheitslösung. Sie lassen sich granular nach Modell, Anbieter oder benutzerdefinierten Metadaten-Dimensionen wie Benutzer-ID, Team oder Applikation festlegen . So könnte ein Unternehmen beispielsweise ein tägliches Budget von 200 Dollar pro Benutzer, eine tägliche Obergrenze von 10.000 Dollar für das gesamte Gateway oder ein tägliches Limit von 50 Dollar für ein bestimmtes, teures Modell festlegen . Jede Regel arbeitet mit einem konfigurierbaren Zeitfenster, das entweder eine feste (kalenderorientierte) oder eine gleitende (rollierende) Zurücksetzungsstrategie verwenden kann .

Zwei Ebenen der Durchsetzung

Die Ausgabenlimits werden auf zwei unabhängigen Ebenen durchgesetzt. Ein kontoweites Ausgabenlimit deckelt die Gesamtausgaben über alle Gateways hinweg für Organisationen, die Unified Billing nutzen. Pro-Gateway-Regeln ermöglichen eine feingranularere Kontrolle. Welches Limit auch immer zuerst erreicht wird – es blockiert weitere Anfragen . Die Limits funktionieren sowohl für Unified-Billing-Anfragen – bei denen Cloudflare Guthaben mit einer Transaktionsgebühr von 5 % auflädt – als auch für „Bring-your-own-Key“-Setups (BYOK), vorausgesetzt, die Preise des Modells sind bekannt .

Dynamisches Routing: Ausweichen statt Scheitern

Eine 429-Ablehnung ist ein stumpfes Instrument. Das dynamische Routing von Cloudflare (in der Beta-Phase) bietet eine intelligentere Alternative, indem es bei erschöpftem Budget ein Ausweichen auf günstigere Modelle ermöglicht. Routing-Abläufe können Budget-Limit-Knoten enthalten, die Kostenkontingente durchsetzen und, anstatt die Anfrage zu verwerfen, automatisch zu einem alternativen Modell wechseln . Dasselbe System unterstützt auch Raten-Limit-Knoten, prozentuale A/B-Traffic-Aufteilungen und bedingte Verzweigungen basierend auf Anfrage-Metadaten wie dem Benutzer-Tarif oder Team – und das alles, ohne den Anwendungscode zu verändern .

Identitätsbasierte Budgets mit Cloudflare Access

Die vielleicht bedeutsamste Ankündigung ist eine geschlossene Beta für identitätsbasierte Budgets, die sich mit Cloudflare Access und dem bestehenden Identitätsanbieter (IdP) eines Unternehmens integrieren lässt. Dies löst das hartnäckige Problem gemeinsam genutzter API-Schlüssel, bei dem, wie Cloudflare in seinem Blog schreibt, „niemand weiß, wer was ausgegeben hat“ . Eine personengenaue Zuordnung und Durchsetzung, direkt gekoppelt an die Unternehmensidentität, verschafft CIOs und Finanzabteilungen jene Kostenstellentransparenz für KI, die es für jeden anderen Geschäftsbereich längst gibt .

Die Marktzwänge hinter der Veröffentlichung

Dieses Funktionspaket ist eine direkte Antwort auf konkrete Marktprobleme, die Cloudflare bei seinen Kunden beobachtet hat :

• Außer Kontrolle geratene Kosten: Unternehmen trieben die KI-Einführung nach dem Motto „Einfach machen, die Rechnung klären wir später“ voran, was zu schmerzhaften Kostenüberschreitungen und nervösen CFOs führte.
• Attributions-Blackboxen: Gemeinsam genutzte API-Schlüssel machten es unmöglich, Ausgaben einem bestimmten Nutzer, Team oder sogar einem automatisierten CI-Job zuzuordnen.
• Standardmäßig die teuerste KI: Ohne Budgets leiteten Teams jede Aufgabe automatisch an das teuerste verfügbare Modell weiter, selbst wenn eine günstigere Alternative ausgereicht hätte.

Indem Cloudflare Ausgabenlimits an echte Dollarbeträge und echte Personen knüpft, wettet das Unternehmen darauf, dass das KI-Kostenmanagement bald genauso alltäglich sein wird wie die Nachverfolgung jeder anderen Cloud-Infrastrukturausgabe.