Kontrol Biaya Nyata: Batas Dolar, Bukan Sekadar Batas Permintaan

Dua Lapisan Penegakan

Batas belanja ditegakkan di dua level independen. Batas di level akun membatasi total belanja di semua gateway untuk organisasi yang menggunakan Unified Billing. Aturan per gateway menyediakan kontrol yang lebih terperinci. Mana pun yang tercapai lebih dulu akan memblokir permintaan selanjutnya . Batas ini berlaku baik untuk permintaan Unified Billing—di mana Cloudflare memuat kredit dengan biaya transaksi 5%—maupun pengaturan bring-your-own-key (BYOK), selama harga modelnya diketahui .

Dynamic Routing: Jalan Alternatif, Bukan Kegagalan

Penolakan dengan error 429 adalah instrumen yang tumpul. Dynamic Routing dari Cloudflare (dalam beta) menawarkan alternatif yang lebih cerdas dengan memungkinkan pengalihan ke model yang lebih murah saat anggaran habis. Alur perutean dapat menyertakan node Budget Limit yang menegakkan kuota biaya dan, alih-alih menolak permintaan, secara otomatis beralih ke model alternatif . Sistem yang sama mendukung node Rate Limit, pemisahan lalu lintas A/B berbasis persentase, dan percabangan kondisional berdasarkan metadata permintaan seperti paket pengguna atau tim, semuanya tanpa menyentuh kode aplikasi .

Anggaran Berbasis Identitas dengan Cloudflare Access

Mungkin pengumuman paling signifikan adalah beta tertutup untuk anggaran berbasis identitas yang terintegrasi dengan Cloudflare Access dan penyedia identitas (IdP) yang sudah ada di organisasi. Ini memecahkan masalah klasik kunci API bersama, di mana, seperti yang ditulis di blog Cloudflare, "tidak ada yang tahu siapa menghabiskan berapa" . Atribusi dan penegakan per orang yang terikat langsung dengan identitas perusahaan memberi CIO dan tim keuangan gambaran ekonomi unit untuk AI, seperti yang sudah ada untuk setiap pos pengeluaran bisnis lainnya .

Tekanan Industri di Balik Rilis Ini

Kumpulan fitur ini adalah respons langsung terhadap kegagalan pasar spesifik yang diamati Cloudflare di antara para pelanggannya :

• Biaya Tak Terkendali: Perusahaan mendorong adopsi AI agresif dengan mentalitas "bergerak cepat, urus tagihannya nanti", yang berujung pada pembengkakan biaya dan kecemasan CFO.
• Ketiadaan Atribusi: Kunci API bersama membuat mustahil melacak pengeluaran ke pengguna, tim, atau bahkan pekerjaan CI otomatis tertentu.
• Default Model Frontier: Tanpa anggaran, tim secara otomatis mengarahkan setiap tugas ke model termahal yang ada, bahkan saat alternatif yang lebih murah sudah memadai.

Dengan mengaitkan batas belanja ke uang sungguhan dan orang sungguhan, Cloudflare bertaruh bahwa manajemen biaya AI akan menjadi rutin seperti melacak pengeluaran infrastruktur cloud lainnya.