Cloudflare AI Gateway में वास्तविक खर्च नियंत्रण: डॉलर बजट, अब सिर्फ दर सीमा नहीं

प्रवर्तन की दो परतें

खर्च सीमाएं दो स्वतंत्र स्तरों पर लागू की जाती हैं। अकाउंट-स्तरीय खर्च सीमा, यूनिफाइड बिलिंग (Unified Billing) का उपयोग करने वाले संगठनों के लिए सभी गेटवे पर कुल खर्च को सीमित करती है। वहीं, प्रति-गेटवे नियम और भी बारीक नियंत्रण प्रदान करते हैं। जो भी सीमा पहले हिट होती है, वह आगे के अनुरोधों को रोक देती है । ये सीमाएं यूनिफाइड बिलिंग अनुरोधों — जहाँ Cloudflare 5% लेन-देन शुल्क के साथ क्रेडिट लोड करता है — और ब्रिंग-योर-ओन-की (BYOK) सेटअप दोनों के लिए काम करती हैं, बशर्ते मॉडल की कीमत ज्ञात हो ।

डायनेमिक रूटिंग: विफलता के बजाय वैकल्पिक मार्ग

429 की अस्वीकृति एक कुंद उपकरण है। Cloudflare की डायनेमिक रूटिंग (बीटा में) एक बेहतर विकल्प प्रदान करती है, जो बजट समाप्त होने पर सस्ते मॉडलों पर फ़ॉलबैक की अनुमति देती है। रूटिंग प्रवाह में बजट सीमा नोड्स (Budget Limit nodes) शामिल हो सकते हैं, जो लागत कोटा लागू करते हैं और अनुरोध को छोड़ने के बजाय, स्वचालित रूप से एक वैकल्पिक मॉडल पर स्विच कर देते हैं । यही प्रणाली दर सीमा नोड्स, प्रतिशत-आधारित A/B ट्रैफ़िक विभाजन, और उपयोगकर्ता योजना या टीम जैसे अनुरोध मेटाडेटा के आधार पर सशर्त शाखाओं का भी समर्थन करती है, और यह सब एप्लिकेशन कोड को छुए बिना होता है ।

Cloudflare Access के साथ पहचान-संचालित बजट

शायद सबसे महत्वपूर्ण घोषणा पहचान-संचालित बजट के लिए एक बंद बीटा है, जो Cloudflare Access और संगठन के मौजूदा पहचान प्रदाता (IdP) के साथ एकीकृत होता है। यह साझा API कुंजियों की उस सतत समस्या को हल करता है जहाँ, जैसा कि Cloudflare के ब्लॉग में कहा गया है, "किसी को नहीं पता कि किसने कितना खर्च किया" । कॉर्पोरेट पहचान से सीधे जुड़ा प्रति-व्यक्ति एट्रिब्यूशन और प्रवर्तन, CIO और वित्त टीमों को AI के लिए वह इकाई अर्थशास्त्र (यूनिट इकनॉमिक्स) देता है जो हर दूसरे व्यावसायिक मद के लिए मौजूद है ।

इस रिलीज़ के पीछे उद्योग का दबाव

यह फ़ीचर सेट उन विशिष्ट बाज़ार विफलताओं की सीधी प्रतिक्रिया है जिन्हें Cloudflare ने अपने ग्राहकों के बीच देखा :

• अनियंत्रित लागत: कंपनियों ने "तेज़ी से आगे बढ़ो, बिल बाद में समझेंगे" की मानसिकता के साथ AI को आक्रामक रूप से अपनाया, जिसके कारण भारी अतिरिक्त खर्च और CFO की चिंता बढ़ गई।
• एट्रिब्यूशन ब्लैक होल: साझा API कुंजियों ने किसी विशिष्ट उपयोगकर्ता, टीम या यहाँ तक कि एक स्वचालित CI कार्य को खर्च का श्रेय देना असंभव बना दिया।
• फ्रंटियर मॉडल का डिफ़ॉल्ट उपयोग: बजट के बिना, टीमें हर कार्य को स्वचालित रूप से उपलब्ध सबसे महंगे मॉडल पर भेज देती थीं, भले ही कोई सस्ता विकल्प पर्याप्त होता।

वास्तविक डॉलर और वास्तविक लोगों के साथ खर्च की सीमा को जोड़कर, Cloudflare इस बात पर दांव लगा रहा है कि AI लागत प्रबंधन किसी भी अन्य क्लाउड इंफ्रास्ट्रक्चर खर्च पर नज़र रखने जितना ही नियमित हो जाएगा।