Cloudflare AI Gateway में वास्तविक खर्च नियंत्रण: डॉलर बजट, अब सिर्फ दर सीमा नहीं

एआई को आक्रामक रूप से अपनाने वाली कंपनियों को अक्सर एक आम बुरे सपने का सामना करना पड़ता है: पाँच या छह अंकों का एक आश्चर्यजनक बिल, जिसमें यह पता लगाने का कोई तरीका नहीं होता कि किस टीम, उपयोगकर्ता या किस स्वचालित प्रक्रिया ने यह खर्च बढ़ाया। Cloudflare का 5 जून, 2026 का AI Gateway अपडेट इसी समस्या पर सीधा प्रहार करता है। यह लागत नियंत्रण को अनुरोधों की गिनती से हटाकर वास्तविक डॉलर की ट्रैकिंग पर ले आता है और उन बजटों को व्यक्तिगत पहचान से जोड़ता है।

डॉलर-आधारित खर्च सीमा कैसे काम करती है

इसका मुख्य आविष्कार पारंपरिक दर सीमा (रेट लिमिटिंग) — जो API अनुरोधों की संख्या को सीमित करती है — से हटकर लागत-आधारित बजट की ओर बढ़ना है। ये बजट टोकन के वास्तविक उपयोग और मॉडल की कीमत का उपयोग करके संचयी डॉलर खर्च को ट्रैक करते हैं । जब गेटवे कोई अनुरोध प्राप्त करता है, तो वह मॉडल की ज्ञात कीमत और उपभोग किए गए टोकन के आधार पर लागत की गणना करता है। यदि निर्धारित समय सीमा के भीतर कुल खर्च सीमा से अधिक हो जाता है, तो अनुरोध को HTTP 429 प्रतिक्रिया के साथ रोक दिया जाता है ।

बजट का दायरा और कॉन्फ़िगरेशन

सीमाएं सभी के लिए एक जैसी नहीं होतीं। इन्हें मॉडल, प्रदाता (प्रोवाइडर), या उपयोगकर्ता आईडी, टीम या एप्लिकेशन जैसे कस्टम मेटाडेटा आयामों के अनुसार बारीकी से निर्धारित किया जा सकता है । उदाहरण के लिए, कोई संगठन प्रति उपयोगकर्ता $200 का दैनिक बजट, पूरे गेटवे खर्च पर $10,000 की दैनिक सीमा, या किसी विशिष्ट महंगे मॉडल के लिए $50 की दैनिक सीमा निर्धारित कर सकता है । प्रत्येक नियम एक कॉन्फ़िगर करने योग्य समय सीमा का उपयोग करता है, जिसमें या तो फिक्स्ड (कैलेंडर-आधारित) या स्लाइडिंग (रोलिंग) रीसेट रणनीति होती है ।

प्रवर्तन की दो परतें

खर्च सीमाएं दो स्वतंत्र स्तरों पर लागू की जाती हैं। अकाउंट-स्तरीय खर्च सीमा, यूनिफाइड बिलिंग (Unified Billing) का उपयोग करने वाले संगठनों के लिए सभी गेटवे पर कुल खर्च को सीमित करती है। वहीं, प्रति-गेटवे नियम और भी बारीक नियंत्रण प्रदान करते हैं। जो भी सीमा पहले हिट होती है, वह आगे के अनुरोधों को रोक देती है । ये सीमाएं यूनिफाइड बिलिंग अनुरोधों — जहाँ Cloudflare 5% लेन-देन शुल्क के साथ क्रेडिट लोड करता है — और ब्रिंग-योर-ओन-की (BYOK) सेटअप दोनों के लिए काम करती हैं, बशर्ते मॉडल की कीमत ज्ञात हो ।

डायनेमिक रूटिंग: विफलता के बजाय वैकल्पिक मार्ग

429 की अस्वीकृति एक कुंद उपकरण है। Cloudflare की डायनेमिक रूटिंग (बीटा में) एक बेहतर विकल्प प्रदान करती है, जो बजट समाप्त होने पर सस्ते मॉडलों पर फ़ॉलबैक की अनुमति देती है। रूटिंग प्रवाह में बजट सीमा नोड्स (Budget Limit nodes) शामिल हो सकते हैं, जो लागत कोटा लागू करते हैं और अनुरोध को छोड़ने के बजाय, स्वचालित रूप से एक वैकल्पिक मॉडल पर स्विच कर देते हैं । यही प्रणाली दर सीमा नोड्स, प्रतिशत-आधारित A/B ट्रैफ़िक विभाजन, और उपयोगकर्ता योजना या टीम जैसे अनुरोध मेटाडेटा के आधार पर सशर्त शाखाओं का भी समर्थन करती है, और यह सब एप्लिकेशन कोड को छुए बिना होता है ।

Cloudflare Access के साथ पहचान-संचालित बजट

शायद सबसे महत्वपूर्ण घोषणा पहचान-संचालित बजट के लिए एक बंद बीटा है, जो Cloudflare Access और संगठन के मौजूदा पहचान प्रदाता (IdP) के साथ एकीकृत होता है। यह साझा API कुंजियों की उस सतत समस्या को हल करता है जहाँ, जैसा कि Cloudflare के ब्लॉग में कहा गया है, "किसी को नहीं पता कि किसने कितना खर्च किया" । कॉर्पोरेट पहचान से सीधे जुड़ा प्रति-व्यक्ति एट्रिब्यूशन और प्रवर्तन, CIO और वित्त टीमों को AI के लिए वह इकाई अर्थशास्त्र (यूनिट इकनॉमिक्स) देता है जो हर दूसरे व्यावसायिक मद के लिए मौजूद है ।

इस रिलीज़ के पीछे उद्योग का दबाव

यह फ़ीचर सेट उन विशिष्ट बाज़ार विफलताओं की सीधी प्रतिक्रिया है जिन्हें Cloudflare ने अपने ग्राहकों के बीच देखा :

• अनियंत्रित लागत: कंपनियों ने "तेज़ी से आगे बढ़ो, बिल बाद में समझेंगे" की मानसिकता के साथ AI को आक्रामक रूप से अपनाया, जिसके कारण भारी अतिरिक्त खर्च और CFO की चिंता बढ़ गई।
• एट्रिब्यूशन ब्लैक होल: साझा API कुंजियों ने किसी विशिष्ट उपयोगकर्ता, टीम या यहाँ तक कि एक स्वचालित CI कार्य को खर्च का श्रेय देना असंभव बना दिया।
• फ्रंटियर मॉडल का डिफ़ॉल्ट उपयोग: बजट के बिना, टीमें हर कार्य को स्वचालित रूप से उपलब्ध सबसे महंगे मॉडल पर भेज देती थीं, भले ही कोई सस्ता विकल्प पर्याप्त होता।

वास्तविक डॉलर और वास्तविक लोगों के साथ खर्च की सीमा को जोड़कर, Cloudflare इस बात पर दांव लगा रहा है कि AI लागत प्रबंधन किसी भी अन्य क्लाउड इंफ्रास्ट्रक्चर खर्च पर नज़र रखने जितना ही नियमित हो जाएगा।