Cloudflaren uudet kulutusrajat: Eurot hallintaan, ei pelkkiä pyyntöjä

Yritykset, jotka ovat ottaneet tekoälyn aggressiivisesti käyttöön, ovat kohdanneet yhteisen painajaisen: yllättävän viisi- tai kuusinumeroisen laskun ilman mitään keinoa jäljittää, mikä tiimi, käyttäjä tai hallitsematon prosessi kustannukset aiheutti. Cloudflaren 5. kesäkuuta 2026 julkaisema AI Gateway -päivitys pureutuu tähän ongelmaan siirtämällä kustannusten hallinnan pyyntöjen laskemisesta todellisten eurojen seurantaan ja liittämällä nuo budjetit yksittäisiin käyttäjiin.

Miten dollaripohjaiset kulutusrajat toimivat

Innovaation ydin on siirtyminen perinteisestä pyyntöjen nopeusrajoituksesta – joka rajoittaa API-kutsujen määrää – kustannuspohjaisiin budjetteihin, jotka seuraavat kumulatiivista dollarikulutusta käyttäen todellista tokenien käyttöä ja mallien hinnoittelua . Kun Gateway vastaanottaa pyynnön, se laskee kustannukset mallin tunnetun hinnoittelun ja kulutettujen tokenien perusteella. Jos kokonaiskulutus asetetussa aikaikkunassa ylittää rajan, pyyntö estetään HTTP 429 -vastauksella .

Budjetin rajaaminen ja määrittely

Rajaukset eivät ole kaikille samat. Ne voidaan kohdentaa tarkasti mallin, palveluntarjoajan tai mukautettujen metatietokenttien, kuten käyttäjätunnuksen, tiimin tai sovelluksen, mukaan . Organisaatio voisi esimerkiksi asettaa 200 dollarin päiväbudjetin käyttäjää kohden, 10 000 dollarin päivittäisen ylärajan koko Gatewayn kulutukselle tai 50 dollarin päivärajan tietylle kalliille mallille . Jokainen sääntö käyttää määritettävissä olevaa aikaikkunaa joko kiinteällä (kalenteriin sidotulla) tai liukuvalla nollausstrategialla .

Kaksi valvonnan tasoa

Kulutusrajat toteutetaan kahdella itsenäisellä tasolla. Tilitason kulutusraja asettaa ylärajan kokonaiskulutukselle kaikissa Gatewayissa organisaatioille, jotka käyttävät yhdistettyä laskutusta (Unified Billing). Gateway-kohtaiset säännöt tarjoavat tarkempaa hallintaa. Kumpi tahansa raja saavutetaan ensin, se estää seuraavat pyynnöt . Rajat toimivat sekä Unified Billing -pyynnöille – joissa Cloudflare lataa saldoa 5 %:n transaktiomaksulla – että omia palveluntarjoajan avaimia (BYOK) käyttäville kokoonpanoille, edellyttäen, että mallin hinnoittelu on tiedossa .

Dynaaminen reititys: Varajärjestelmä epäonnistumisen sijaan

429-esto on tylsä työkalu. Cloudflaren dynaaminen reititys (Dynamic Routing, beta-vaiheessa) tarjoaa älykkäämmän vaihtoehdon sallimalla siirtymisen halvempaan malliin, kun budjetti on käytetty loppuun. Reititysvuot voivat sisältää Budget Limit -solmuja, jotka valvovat kulutuskiintiöitä ja pyynnön hylkäämisen sijaan vaihtavat automaattisesti varamalliin . Sama järjestelmä tukee Rate Limit -solmuja, prosenttiperusteista A/B-liikenteen jakoa ja ehdollista haarautumista pyynnön metatietojen, kuten käyttäjäsuunnitelman tai tiimin, perusteella – kaikki tämä ilman, että sovelluskoodiin tarvitsee koskea .

Identiteettiperusteiset budjetit Cloudflare Accessilla

Ehkä merkittävin ilmoitus on suljettu beta-vaihe identiteettiperusteisille budjeteille, jotka integroituvat Cloudflare Accessiin ja organisaation olemassa olevaan identiteetinhallintaratkaisuun (IdP). Tämä ratkaisee jaettujen API-avainten jatkuvan ongelman, jossa, kuten Cloudflaren blogissa todetaan, "kukaan ei tiedä, kuka kulutti ja mihin" . Suoraan yrityksen käyttäjätunnuksiin sidottu henkilökohtainen kohdennus ja valvonta antavat CIO:ille ja talousosastoille ne samat yksikkötaloudelliset tiedot tekoälylle, jotka ovat olemassa jokaiselle muulle liiketoiminnan riville .

Julkaisun taustalla olevat alan paineet

Tämä ominaisuuskokonaisuus on suora vastaus tiettyihin markkinapuutteisiin, joita Cloudflare havaitsi asiakkaidensa keskuudessa :

• Karkaavat kustannukset: Yritykset ajoivat aggressiivista tekoälyn käyttöönottoa mentaliteetilla "liiku nopeasti, mieti laskua myöhemmin", mikä johti kivuliaisiin ylityksiin ja talousjohtajien huoleen.
• Kohdennuksen mustat aukot: Jaetut API-avaimet tekivät mahdottomaksi jäljittää kulutusta tiettyyn käyttäjään, tiimiin tai jopa automatisoituun CI-työhön.
• Oletusarvoisesti kallein malli: Ilman budjetteja tiimit ohjasivat automaattisesti jokaisen tehtävän kalleimmalle mahdolliselle mallille, vaikka halvempi vaihtoehto olisi riittänyt.

Sitomalla kulutusrajat todellisiin euroihin ja oikeisiin ihmisiin Cloudflare lyö vetoa, että tekoälyn kustannustenhallinnasta tulee yhtä rutiininomaista kuin minkä tahansa muun pilvi-infrastruktuurikulun seurannasta.