Uber ने AI एजेंट का इस्तेमाल 9.4 गुना बढ़ाया, फिर भी AI खर्च कैसे संभाला

Uber का AI खर्च 2026 के शुरुआती महीनों में तय बजट से आगे निकल गया था। लेकिन कंपनी ने इसका जवाब AI टूल्स की पहुंच सीमित करके नहीं दिया। इसके बजाय उसने AI को इंजीनियरिंग लागत को बेहतर ढंग से नियंत्रित करने की समस्या माना—हर काम के लिए उपयुक्त मॉडल चुनना, जरूरत से ज्यादा बड़ा संदर्भ (context) रोकना, बार-बार इस्तेमाल होने वाले प्रॉम्प्ट कैश करना और इंजीनियरों को उनके सेशन की लागत दिखाना। 1

इस रणनीति के बाद अप्रैल से कुल AI खर्च मोटे तौर पर स्थिर रहा, जबकि फरवरी की तुलना में साप्ताहिक AI-एजेंट अनुरोध 9.4 गुना बढ़ गए। उसी AI मॉडल का इस्तेमाल करते हुए प्रति 1,000 अनुरोध लागत अप्रैल के शिखर से करीब 34% और प्रति सेशन लागत जून के उच्चतम स्तर से 52% कम हुई। 1

Uber में AI का इस्तेमाल लगातार बढ़ता रहा

लागत में कमी AI अपनाने की रफ्तार घटने से नहीं आई। Uber में AI एजेंट अब 70% से अधिक कोड-चेंज सबमिशन में शामिल हैं, इंजीनियर रोजाना 30,000 से ज्यादा एजेंट टास्क चलाते हैं और AI टूल्स इस्तेमाल करने वाले कर्मचारियों की संख्या चार गुना से अधिक बढ़ चुकी है। 1

इसका सीधा मतलब है कि प्रति काम लागत कम हुई। AI वर्कलोड मुफ्त नहीं हुआ; Uber ने यह बदला कि टोकन और मॉडल क्षमता किस तरह इस्तेमाल की जाए।

1. हर काम के लिए सही मॉडल चुनना

Uber हर काम को डिफॉल्ट रूप से सबसे शक्तिशाली या महंगे मॉडल पर नहीं भेजता। वह उस मॉडल का चुनाव करता है जो आवश्यक क्षमता सबसे कम लागत में दे सके। सरल काम कम लागत वाले मॉडल को सौंपे जा सकते हैं, जबकि जटिल कामों के लिए अधिक सक्षम मॉडल इस्तेमाल किए जाते हैं। कंपनी खास उपयोग मामलों के लिए ओपन-वेट मॉडल्स समेत अन्य विकल्पों का भी मूल्यांकन कर रही है। 1

इससे मॉडल चुनना एक तयशुदा सेटिंग के बजाय वर्कलोड पर निर्भर इंजीनियरिंग निर्णय बन जाता है। बड़े स्तर पर रोजमर्रा के अनुरोधों में छोटी-छोटी बचत भी प्रति टास्क औसत लागत को काफी बदल सकती है।

2. लंबे AI-एजेंट सेशन पर टोकन सीमा

Uber इंटरैक्टिव सेशन को 400,000 टोकन तक सीमित करता है, भले ही कोई मॉडल 10 लाख टोकन तक का context window सपोर्ट करता हो। 1

कोडिंग एजेंट के सेशन में फाइलें, टूल के परिणाम, निर्देश और पिछली बातचीत लगातार जुड़ते रहते हैं। सीमा न होने पर प्रयोगात्मक या अनियंत्रित सेशन तेजी से बढ़ते संदर्भ को बार-बार प्रोसेस कर सकते हैं और लागत बढ़ा सकते हैं।

टोकन कैप AI एजेंट का इस्तेमाल बंद नहीं करता। यह सबसे अधिक context इस्तेमाल करने वाले सेशन के लिए एक अनुमानित ऊपरी सीमा तय करता है और टीमों को खर्च नियंत्रित करने का स्पष्ट बिंदु देता है।

3. प्रॉम्प्ट-कैश की अवधि एक घंटे की

Uber ने prompt-cache की अवधि पांच मिनट से बढ़ाकर एक घंटा कर दी। यह बदलाव इंजीनियरों के वास्तविक काम करने के तरीके के अनुरूप है, क्योंकि कई बार AI सेशन पांच मिनट से ज्यादा समय तक रुका रहता है और बाद में फिर शुरू होता है। 1

लंबे समय तक कैश का पुन: इस्तेमाल करने से एक ही संदर्भ को बार-बार प्रोसेस करने की जरूरत घट सकती है। एजेंट आधारित कोडिंग में एक ही रिपॉजिटरी या निर्देशों पर लौटना आम है, इसलिए कैशिंग बिना टास्क बदले अनावश्यक टोकन प्रोसेसिंग कम कर सकती है।

4. इंजीनियरों को रियल-टाइम लागत दिखाना

Uber इंजीनियरों को उनके टर्मिनल में AI सेशन की चल रही लागत दिखाई देता है। 1

इससे इस्तेमाल सीधे इंजीनियरिंग फीडबैक लूप का हिस्सा बन जाता है। किसी महंगे वर्कफ्लो का पता बाद की वित्तीय रिपोर्ट में चलने के बजाय इंजीनियर प्रयोग के दौरान ही देख सकता है और जरूरत पड़ने पर सेशन, मॉडल या context बदल सकता है।

इस कदम से लागत की समझ उसी जगह आती है जहां प्रॉम्प्ट, रीट्राई, context और मॉडल से जुड़े फैसले लिए जाते हैं।

एंटरप्राइज AI के लिए Uber के अनुभव का मतलब

Uber का उदाहरण दिखाता है कि एंटरप्राइज AI खर्च नियंत्रित करना केवल बजट बनाने का विषय नहीं है। यह सिस्टम डिजाइन की समस्या भी है।

इस उदाहरण से सामने आने वाले प्रमुख नियंत्रण हैं:

• वर्कलोड के आधार पर मॉडल रूटिंग: जहां कम महंगा मॉडल पर्याप्त हो, वहां उसका इस्तेमाल करें।
• Context गवर्नेंस: ऐसे सेशन के लिए सीमा तय करें जिनमें बड़ी मात्रा में टोकन-भारी इतिहास जमा हो सकता है।
• प्रॉम्प्ट कैशिंग: दोहराए जाने वाले context को शुरू से प्रोसेस करने के बजाय उसका पुन: इस्तेमाल करें।
• यूनिट-कॉस्ट टेलीमेट्री: AI वर्कफ्लो चलाने वाले लोगों को उसकी अतिरिक्त लागत दिखाई दे।
• मॉडल विकल्पों की प्रतिस्पर्धा: हर काम के लिए एक ही डिफॉल्ट मॉडल पर निर्भर रहने के बजाय ओपन-वेट मॉडल्स सहित अन्य विकल्पों का मूल्यांकन करें। 1

ये नियंत्रण AI एजेंट्स के लिए खास तौर पर महत्वपूर्ण हैं, क्योंकि एजेंट आधारित काम दोहराव वाला होता है। एक उपयोगकर्ता अनुरोध के बाद एजेंट योजना बना सकता है, टूल इस्तेमाल कर सकता है, परिणाम जांच सकता है और बदलाव कर सकता है। इस वजह से एक सामान्य, एक-बार वाले चैट अनुरोध की तुलना में कुल टोकन खपत कहीं कम अनुमानित रहती है।

इसलिए Uber के नतीजों को परिचालन दक्षता के उदाहरण के रूप में देखना चाहिए, न कि इस प्रमाण के रूप में कि तेजी से बढ़ता AI इस्तेमाल वित्तीय जोखिम पैदा नहीं करता। कंपनी ने खर्च को व्यापक रूप से स्थिर तभी रखा जब उसने हर अनुरोध और सेशन की लागत संरचना बदली। अन्य कंपनियों के लिए सबक साफ है: AI अपनाने को बढ़ाते समय लागत-नियंत्रण भी साथ बढ़ाएं और शुरुआत से ही मापन को अपने टूल्स में शामिल करें।