Cloudflare AI Gateway: Endelig Reelle Forbrukskontroller
Cloudflares nye forbruksgrenser i AI Gateway sporer kumulative dollarkostnader per forespørsel, ikke antall forespørsler, og blokkerer trafikk med en 429 feil når budsjettet er overskredet. Funksjonen, lansert 5.
Publisert avRedigert med DeepSeek-V4-ProBilder generert med GPT Image 1.5
Cloudflares nye forbruksgrenser i AI Gateway sporer kumulative dollarkostnader per forespørsel, ikke antall forespørsler, og blokkerer trafikk med en 429 feil når budsjettet er overskredet.
Funksjonen, lansert 5. juni 2026, lar bedrifter sette grenser per modell, leverandør eller egendefinerte metadata som bruker eller team, og kan automatisk rute videre til rimeligere modeller når en forbruksgrense er n...
Lanseringen er et direkte svar på utbredt frustrasjon hos økonomiavdelingene over ukontrollerte AI kostnader, manglende evne til å spore forbruk til spesifikke team og en tendens til å bruke de dyreste modellene som s...
What are Cloudflare's new dollar-based spend limits for its AI Gateway, how do they work (including the difference from traditional rate limCloudflare's AI Gateway now enforces cost-based budgets in dollars, not tokens.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: What are Cloudflare's new dollar-based spend limits for its AI Gateway, how do they work (including the difference from traditional rate lim. Article summary: On June 5, 2026, Cloudflare released dollar-based spend limits for AI Gateway — budgets that track cumulative token cost rather than request count — and announced a closed beta for identity-driven budgets integrated with. Topic tags: general, documentation, general web. Reference image context from search candidates: Reference image 1: visual subject "Blank white background with no objects or features visible. # Cloudflare AI Gateway Pricing: Costs, Hidden Fees, and Alternatives. CloudFlare AI Gateway pricing guide for GenAI dev" source context "Cloudflare AI Gateway Pricing Explained For 2026 - Truefoundry" Reference image 2: visual subject "Blank white backgr
openai.com
Selskaper som har kastet seg på AI-bølgen kjenner seg ofte igjen i ett bestemt mareritt: En overraskende regning på flere hundre tusen kroner, uten mulighet til å spore hvilket team, hvilken bruker eller hvilken løpsk prosess som forårsaket kostnaden. Cloudflares oppdatering til AI Gateway den 5. juni 2026 går rett i strupen på dette problemet . De flytter kostnadskontrollen fra å telle antall forespørsler til å spore faktiske dollar, og knytter budsjettene direkte til individuelle identiteter.
Slik fungerer dollar-baserte forbruksgrenser
Kjernen i nyvinningen er et skifte fra tradisjonell rate limiting – som kun setter et tak på antall API-kall – til kostnadsbaserte budsjetter. Disse budsjettene sporer det akkumulerte pengeforbruket ved å bruke faktisk token-bruk og modellenes priser . Når AI Gateway mottar en forespørsel, kalkulerer den kostnaden basert på modellens kjente pris og antallet konsumerte tokens. Hvis det totale forbruket innenfor en konfigurert tidsperiode overstiger grensen, blokkeres forespørselen med en HTTP 429-respons .
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "Cloudflare AI Gateway: Endelig Reelle Forbrukskontroller"?
Cloudflares nye forbruksgrenser i AI Gateway sporer kumulative dollarkostnader per forespørsel, ikke antall forespørsler, og blokkerer trafikk med en 429 feil når budsjettet er overskredet.
What are the key points to validate first?
Cloudflares nye forbruksgrenser i AI Gateway sporer kumulative dollarkostnader per forespørsel, ikke antall forespørsler, og blokkerer trafikk med en 429 feil når budsjettet er overskredet. Funksjonen, lansert 5. juni 2026, lar bedrifter sette grenser per modell, leverandør eller egendefinerte metadata som bruker eller team, og kan automatisk rute videre til rimeligere modeller når en forbruksgrense er n...
What should I do next in practice?
Lanseringen er et direkte svar på utbredt frustrasjon hos økonomiavdelingene over ukontrollerte AI kostnader, manglende evne til å spore forbruk til spesifikke team og en tendens til å bruke de dyreste modellene som s...
Cloudflare AI Gateway: Endelig Reelle Forbrukskontroller
Cloudflares nye forbruksgrenser i AI Gateway sporer kumulative dollarkostnader per forespørsel, ikke antall forespørsler, og blokkerer trafikk med en 429 feil når budsjettet er overskredet. Funksjonen, lansert 5.
Publisert avRedigert med DeepSeek-V4-ProBilder generert med GPT Image 1.5
Cloudflares nye forbruksgrenser i AI Gateway sporer kumulative dollarkostnader per forespørsel, ikke antall forespørsler, og blokkerer trafikk med en 429 feil når budsjettet er overskredet.
Funksjonen, lansert 5. juni 2026, lar bedrifter sette grenser per modell, leverandør eller egendefinerte metadata som bruker eller team, og kan automatisk rute videre til rimeligere modeller når en forbruksgrense er n...
Lanseringen er et direkte svar på utbredt frustrasjon hos økonomiavdelingene over ukontrollerte AI kostnader, manglende evne til å spore forbruk til spesifikke team og en tendens til å bruke de dyreste modellene som s...
What are Cloudflare's new dollar-based spend limits for its AI Gateway, how do they work (including the difference from traditional rate limCloudflare's AI Gateway now enforces cost-based budgets in dollars, not tokens.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: What are Cloudflare's new dollar-based spend limits for its AI Gateway, how do they work (including the difference from traditional rate lim. Article summary: On June 5, 2026, Cloudflare released dollar-based spend limits for AI Gateway — budgets that track cumulative token cost rather than request count — and announced a closed beta for identity-driven budgets integrated with. Topic tags: general, documentation, general web. Reference image context from search candidates: Reference image 1: visual subject "Blank white background with no objects or features visible. # Cloudflare AI Gateway Pricing: Costs, Hidden Fees, and Alternatives. CloudFlare AI Gateway pricing guide for GenAI dev" source context "Cloudflare AI Gateway Pricing Explained For 2026 - Truefoundry" Reference image 2: visual subject "Blank white backgr
openai.com
Selskaper som har kastet seg på AI-bølgen kjenner seg ofte igjen i ett bestemt mareritt: En overraskende regning på flere hundre tusen kroner, uten mulighet til å spore hvilket team, hvilken bruker eller hvilken løpsk prosess som forårsaket kostnaden. Cloudflares oppdatering til AI Gateway den 5. juni 2026 går rett i strupen på dette problemet . De flytter kostnadskontrollen fra å telle antall forespørsler til å spore faktiske dollar, og knytter budsjettene direkte til individuelle identiteter.
Slik fungerer dollar-baserte forbruksgrenser
Kjernen i nyvinningen er et skifte fra tradisjonell rate limiting – som kun setter et tak på antall API-kall – til kostnadsbaserte budsjetter. Disse budsjettene sporer det akkumulerte pengeforbruket ved å bruke faktisk token-bruk og modellenes priser . Når AI Gateway mottar en forespørsel, kalkulerer den kostnaden basert på modellens kjente pris og antallet konsumerte tokens. Hvis det totale forbruket innenfor en konfigurert tidsperiode overstiger grensen, blokkeres forespørselen med en HTTP 429-respons .
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "Cloudflare AI Gateway: Endelig Reelle Forbrukskontroller"?
Cloudflares nye forbruksgrenser i AI Gateway sporer kumulative dollarkostnader per forespørsel, ikke antall forespørsler, og blokkerer trafikk med en 429 feil når budsjettet er overskredet.
What are the key points to validate first?
Cloudflares nye forbruksgrenser i AI Gateway sporer kumulative dollarkostnader per forespørsel, ikke antall forespørsler, og blokkerer trafikk med en 429 feil når budsjettet er overskredet. Funksjonen, lansert 5. juni 2026, lar bedrifter sette grenser per modell, leverandør eller egendefinerte metadata som bruker eller team, og kan automatisk rute videre til rimeligere modeller når en forbruksgrense er n...
What should I do next in practice?
Lanseringen er et direkte svar på utbredt frustrasjon hos økonomiavdelingene over ukontrollerte AI kostnader, manglende evne til å spore forbruk til spesifikke team og en tendens til å bruke de dyreste modellene som s...
Grensene er ikke like for alle. De kan settes på et detaljert nivå etter modell, leverandør eller egendefinerte metadatafelt som bruker-ID, team eller applikasjon . En organisasjon kan for eksempel sette et daglig budsjett på 200 dollar per bruker, et samlet daglig tak på 10 000 dollar for hele gatewayen, eller en grense på 50 dollar per dag for en spesifikk, kostbar modell . Hver regel bruker et konfigurerbart tidsvindu med enten en fast (kalenderstyrt) eller glidende (rullerende) tilbakestillingsstrategi .
To nivåer av håndhevelse
Forbruksgrensene håndheves på to uavhengige nivåer. En kontonivågrense setter et tak for totalforbruket på tvers av alle gatewayer for organisasjoner som bruker Unified Billing. Per-gateway-regler gir mer finmasket kontroll. Uansett hvilken grense som treffes først, vil påfølgende forespørsler blokkeres . Disse grensene fungerer både for Unified Billing-forespørsler – der Cloudflare laster opp kreditter mot et transaksjonsgebyr på 5 % – og for oppsett der man bruker egne API-nøkler (BYOK), forutsatt at modellens priser er kjent .
Dynamisk ruting: Omkobling istedenfor feilmelding
En 429-feilmelding er et relativt brutalt verktøy. Cloudflares dynamiske ruting (som er i beta) tilbyr et smartere alternativ ved å tillate omkobling til rimeligere modeller når et budsjett er oppbrukt. Rutingflyter kan inkludere budsjettgrense-noder som håndhever kostnadskvoter og, i stedet for å avvise forespørselen, automatisk bytter til en alternativ modell . Det samme systemet støtter rate limit-noder, prosentvis A/B-splitting av trafikk og betingede forgreninger basert på metadata i forespørselen, som for eksempel brukerplan eller team. Alt dette kan gjøres uten å endre applikasjonskoden .
Identitetsdrevne budsjetter med Cloudflare Access
Kanskje den mest betydningsfulle kunngjøringen er en lukket beta for identitetsdrevne budsjetter som integreres med Cloudflare Access og en organisasjons eksisterende identitetsleverandør (IdP). Dette løser det vedvarende problemet med delte API-nøkler, der, som Cloudflares blogg beskriver det, «ingen vet hvem som brukte hva» . Attribusjon og håndhevelse per person, knyttet direkte til bedriftsidentiteten, gir CIO-er og økonomiavdelingene den samme enhetsøkonomien for AI som finnes for alle andre forretningsområder .
Bransjepresset bak lanseringen
Dette funksjonssettet er et direkte svar på spesifikke markedssvikt Cloudflare observerte blant sine kunder :
Løpske kostnader: Selskaper presset på for aggressiv AI-innføring med en «vi fikser regningen senere»-mentalitet, noe som førte til smertefulle overskridelser og bekymrede økonomidirektører.
Sorte hull for attribusjon: Delte API-nøkler gjorde det umulig å spore forbruk til en spesifikk bruker, team eller til og med en automatisert CI-jobb.
Standardvalget er toppmodellen: Uten budsjetter rutet team automatisk hver eneste oppgave til den dyreste modellen som var tilgjengelig, selv når et rimeligere alternativ ville vært mer enn godt nok.
Ved å binde forbruksgrensene til faktiske dollar og virkelige personer, vedder Cloudflare på at håndtering av AI-kostnader vil bli like rutinemessig som å spore enhver annen utgiftspost i skyinfrastrukturen.
Grensene er ikke like for alle. De kan settes på et detaljert nivå etter modell, leverandør eller egendefinerte metadatafelt som bruker-ID, team eller applikasjon . En organisasjon kan for eksempel sette et daglig budsjett på 200 dollar per bruker, et samlet daglig tak på 10 000 dollar for hele gatewayen, eller en grense på 50 dollar per dag for en spesifikk, kostbar modell . Hver regel bruker et konfigurerbart tidsvindu med enten en fast (kalenderstyrt) eller glidende (rullerende) tilbakestillingsstrategi .
To nivåer av håndhevelse
Forbruksgrensene håndheves på to uavhengige nivåer. En kontonivågrense setter et tak for totalforbruket på tvers av alle gatewayer for organisasjoner som bruker Unified Billing. Per-gateway-regler gir mer finmasket kontroll. Uansett hvilken grense som treffes først, vil påfølgende forespørsler blokkeres . Disse grensene fungerer både for Unified Billing-forespørsler – der Cloudflare laster opp kreditter mot et transaksjonsgebyr på 5 % – og for oppsett der man bruker egne API-nøkler (BYOK), forutsatt at modellens priser er kjent .
Dynamisk ruting: Omkobling istedenfor feilmelding
En 429-feilmelding er et relativt brutalt verktøy. Cloudflares dynamiske ruting (som er i beta) tilbyr et smartere alternativ ved å tillate omkobling til rimeligere modeller når et budsjett er oppbrukt. Rutingflyter kan inkludere budsjettgrense-noder som håndhever kostnadskvoter og, i stedet for å avvise forespørselen, automatisk bytter til en alternativ modell . Det samme systemet støtter rate limit-noder, prosentvis A/B-splitting av trafikk og betingede forgreninger basert på metadata i forespørselen, som for eksempel brukerplan eller team. Alt dette kan gjøres uten å endre applikasjonskoden .
Identitetsdrevne budsjetter med Cloudflare Access
Kanskje den mest betydningsfulle kunngjøringen er en lukket beta for identitetsdrevne budsjetter som integreres med Cloudflare Access og en organisasjons eksisterende identitetsleverandør (IdP). Dette løser det vedvarende problemet med delte API-nøkler, der, som Cloudflares blogg beskriver det, «ingen vet hvem som brukte hva» . Attribusjon og håndhevelse per person, knyttet direkte til bedriftsidentiteten, gir CIO-er og økonomiavdelingene den samme enhetsøkonomien for AI som finnes for alle andre forretningsområder .
Bransjepresset bak lanseringen
Dette funksjonssettet er et direkte svar på spesifikke markedssvikt Cloudflare observerte blant sine kunder :
Løpske kostnader: Selskaper presset på for aggressiv AI-innføring med en «vi fikser regningen senere»-mentalitet, noe som førte til smertefulle overskridelser og bekymrede økonomidirektører.
Sorte hull for attribusjon: Delte API-nøkler gjorde det umulig å spore forbruk til en spesifikk bruker, team eller til og med en automatisert CI-jobb.
Standardvalget er toppmodellen: Uten budsjetter rutet team automatisk hver eneste oppgave til den dyreste modellen som var tilgjengelig, selv når et rimeligere alternativ ville vært mer enn godt nok.
Ved å binde forbruksgrensene til faktiske dollar og virkelige personer, vedder Cloudflare på at håndtering av AI-kostnader vil bli like rutinemessig som å spore enhver annen utgiftspost i skyinfrastrukturen.
