चीन की AI कंपनियाँ हर Nvidia GPU का अधिकतम इस्तेमाल क्यों कर रही हैं?
मार्च 2026 में चीन में रोज़ाना औसत AI टोकन कॉल 140 ट्रिलियन से अधिक हो गईं, जो 2024 की शुरुआत के 100 अरब से 1,000 गुना से ज्यादा वृद्धि है। कंपनियाँ आसान अनुरोध घरेलू चिप्स पर भेजकर और जटिल, उच्च मूल्य वाले कामों के लिए Nvidia GPUs बचाकर सीमित हार्डवेयर से अधिक उपयोगी आउटपुट निकालने की कोशिश कर रही हैं। प्रीमियम इनफ...
प्रकाशितकर्ताGPT-5.6 Luna से संपादितGPT Image 1.5 से चित्र बनाए गए
मार्च 2026 में चीन में रोज़ाना औसत AI टोकन कॉल 140 ट्रिलियन से अधिक हो गईं, जो 2024 की शुरुआत के 100 अरब से 1,000 गुना से ज्यादा वृद्धि है।
कंपनियाँ आसान अनुरोध घरेलू चिप्स पर भेजकर और जटिल, उच्च मूल्य वाले कामों के लिए Nvidia GPUs बचाकर सीमित हार्डवेयर से अधिक उपयोगी आउटपुट निकालने की कोशिश कर रही हैं।
प्रीमियम इनफरेंस में अधिक कंप्यूटिंग संसाधन लगते हैं, लेकिन चीनी AI मॉडलों की प्रति टोकन कीमत अमेरिकी कंपनियों की तुलना में औसतन लगभग एक छठी बताई गई है—यही व्यावसायिक दबाव को बढ़ाता है।
Why are Chinese AI companies optimizing inference software and stretching scarce Nvidia GPU capacity as AI shifts from model training to larChina’s AI companies are optimizing inference to stretch a constrained mix of Nvidia and domestic computing hardware.
AI संकेत
Create a landscape editorial hero image for this Studio Global article: Why are Chinese AI companies optimizing inference software and stretching scarce Nvidia GPU capacity as AI shifts from model training to lar. Article summary: Chinese AI companies are shifting effort from training ever-larger models to serving huge volumes of real-time requests. They are optimizing inference software—such as scheduling workloads across mixed hardware, improvin. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
openai.com
चीन की AI चुनौती अब केवल बड़े मॉडल को प्रशिक्षित करने के लिए पर्याप्त चिप्स जुटाने की नहीं रही। असली दबाव उस चरण में तेजी से बढ़ रहा है जब प्रशिक्षित मॉडल करोड़ों उपयोगकर्ताओं, कंपनियों और AI एजेंटों के अनुरोधों का जवाब देते हैं। इस चरण को इनफरेंस कहा जाता है।
AI एजेंट सिर्फ एक सवाल का उत्तर नहीं देते। वे लंबे संदर्भ को संभाल सकते हैं, टूल्स का इस्तेमाल कर सकते हैं, कोड लिखकर चला सकते हैं, परिणाम जाँच सकते हैं और फिर अपना उत्तर सुधार सकते हैं। हर अतिरिक्त चरण कंप्यूटिंग की मांग बढ़ाता है। इसलिए चीन की AI कंपनियाँ सीमित Nvidia GPUs को बेहद सावधानी से बाँट रही हैं और सॉफ्टवेयर के स्तर पर हर चिप से अधिक काम निकालने की कोशिश कर रही हैं।
ट्रेनिंग से इनफरेंस तक बदलता दबाव
ट्रेनिंग वह चरण है जिसमें मॉडल को बड़े पैमाने पर डेटा से तैयार किया जाता है। इसके बाद इनफरेंस में वही मॉडल उपयोगकर्ताओं के सवालों और ऐप्लिकेशन के अनुरोधों के जवाब बनाता है। इनफरेंस के कुछ काम घरेलू हार्डवेयर पर चलाए जा सकते हैं, लेकिन हर काम आसानी से स्थानांतरित नहीं किया जा सकता। प्रदर्शन, मेमोरी, स्थिरता और परिपक्व सॉफ्टवेयर का संयोजन अभी भी महत्वपूर्ण है।
इसी वजह से चीनी कंपनियाँ मिश्रित हार्डवेयर ढाँचे पर काम कर रही हैं। घरेलू एक्सेलेरेटर इनफरेंस के कुछ हिस्से संभाल सकते हैं, जबकि सीमित संख्या में उपलब्ध हाई-एंड Nvidia प्रोसेसर उन कार्यों के लिए बचाए जाते हैं जिन्हें बदलना सबसे कठिन है। उद्योग रिपोर्टों में जटिल कोडिंग कार्यों को विशेष दबाव वाला क्षेत्र बताया गया है।
कोडिंग और AI एजेंट Nvidia क्षमता क्यों खपाते हैं?
एक साधारण सवाल-जवाब में अपेक्षाकृत कम कंप्यूटिंग लग सकती है। इसके विपरीत, कोडिंग असिस्टेंट या स्वायत्त AI एजेंट को लंबा संदर्भ बनाए रखना, कोड तैयार करना, बाहरी टूल्स को कॉल करना, आउटपुट की जाँच करना और कई बार संशोधन करना पड़ सकता है।
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
"चीन की AI कंपनियाँ हर Nvidia GPU का अधिकतम इस्तेमाल क्यों कर रही हैं?" का संक्षिप्त उत्तर क्या है?
मार्च 2026 में चीन में रोज़ाना औसत AI टोकन कॉल 140 ट्रिलियन से अधिक हो गईं, जो 2024 की शुरुआत के 100 अरब से 1,000 गुना से ज्यादा वृद्धि है।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
मार्च 2026 में चीन में रोज़ाना औसत AI टोकन कॉल 140 ट्रिलियन से अधिक हो गईं, जो 2024 की शुरुआत के 100 अरब से 1,000 गुना से ज्यादा वृद्धि है। कंपनियाँ आसान अनुरोध घरेलू चिप्स पर भेजकर और जटिल, उच्च मूल्य वाले कामों के लिए Nvidia GPUs बचाकर सीमित हार्डवेयर से अधिक उपयोगी आउटपुट निकालने की कोशिश कर रही हैं।
मुझे अभ्यास में आगे क्या करना चाहिए?
प्रीमियम इनफरेंस में अधिक कंप्यूटिंग संसाधन लगते हैं, लेकिन चीनी AI मॉडलों की प्रति टोकन कीमत अमेरिकी कंपनियों की तुलना में औसतन लगभग एक छठी बताई गई है—यही व्यावसायिक दबाव को बढ़ाता है।
चीन की AI कंपनियाँ हर Nvidia GPU का अधिकतम इस्तेमाल क्यों कर रही हैं?
मार्च 2026 में चीन में रोज़ाना औसत AI टोकन कॉल 140 ट्रिलियन से अधिक हो गईं, जो 2024 की शुरुआत के 100 अरब से 1,000 गुना से ज्यादा वृद्धि है। कंपनियाँ आसान अनुरोध घरेलू चिप्स पर भेजकर और जटिल, उच्च मूल्य वाले कामों के लिए Nvidia GPUs बचाकर सीमित हार्डवेयर से अधिक उपयोगी आउटपुट निकालने की कोशिश कर रही हैं। प्रीमियम इनफ...
प्रकाशितकर्ताGPT-5.6 Luna से संपादितGPT Image 1.5 से चित्र बनाए गए
मार्च 2026 में चीन में रोज़ाना औसत AI टोकन कॉल 140 ट्रिलियन से अधिक हो गईं, जो 2024 की शुरुआत के 100 अरब से 1,000 गुना से ज्यादा वृद्धि है।
कंपनियाँ आसान अनुरोध घरेलू चिप्स पर भेजकर और जटिल, उच्च मूल्य वाले कामों के लिए Nvidia GPUs बचाकर सीमित हार्डवेयर से अधिक उपयोगी आउटपुट निकालने की कोशिश कर रही हैं।
प्रीमियम इनफरेंस में अधिक कंप्यूटिंग संसाधन लगते हैं, लेकिन चीनी AI मॉडलों की प्रति टोकन कीमत अमेरिकी कंपनियों की तुलना में औसतन लगभग एक छठी बताई गई है—यही व्यावसायिक दबाव को बढ़ाता है।
Why are Chinese AI companies optimizing inference software and stretching scarce Nvidia GPU capacity as AI shifts from model training to larChina’s AI companies are optimizing inference to stretch a constrained mix of Nvidia and domestic computing hardware.
AI संकेत
Create a landscape editorial hero image for this Studio Global article: Why are Chinese AI companies optimizing inference software and stretching scarce Nvidia GPU capacity as AI shifts from model training to lar. Article summary: Chinese AI companies are shifting effort from training ever-larger models to serving huge volumes of real-time requests. They are optimizing inference software—such as scheduling workloads across mixed hardware, improvin. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
openai.com
चीन की AI चुनौती अब केवल बड़े मॉडल को प्रशिक्षित करने के लिए पर्याप्त चिप्स जुटाने की नहीं रही। असली दबाव उस चरण में तेजी से बढ़ रहा है जब प्रशिक्षित मॉडल करोड़ों उपयोगकर्ताओं, कंपनियों और AI एजेंटों के अनुरोधों का जवाब देते हैं। इस चरण को इनफरेंस कहा जाता है।
AI एजेंट सिर्फ एक सवाल का उत्तर नहीं देते। वे लंबे संदर्भ को संभाल सकते हैं, टूल्स का इस्तेमाल कर सकते हैं, कोड लिखकर चला सकते हैं, परिणाम जाँच सकते हैं और फिर अपना उत्तर सुधार सकते हैं। हर अतिरिक्त चरण कंप्यूटिंग की मांग बढ़ाता है। इसलिए चीन की AI कंपनियाँ सीमित Nvidia GPUs को बेहद सावधानी से बाँट रही हैं और सॉफ्टवेयर के स्तर पर हर चिप से अधिक काम निकालने की कोशिश कर रही हैं।
ट्रेनिंग से इनफरेंस तक बदलता दबाव
ट्रेनिंग वह चरण है जिसमें मॉडल को बड़े पैमाने पर डेटा से तैयार किया जाता है। इसके बाद इनफरेंस में वही मॉडल उपयोगकर्ताओं के सवालों और ऐप्लिकेशन के अनुरोधों के जवाब बनाता है। इनफरेंस के कुछ काम घरेलू हार्डवेयर पर चलाए जा सकते हैं, लेकिन हर काम आसानी से स्थानांतरित नहीं किया जा सकता। प्रदर्शन, मेमोरी, स्थिरता और परिपक्व सॉफ्टवेयर का संयोजन अभी भी महत्वपूर्ण है।
इसी वजह से चीनी कंपनियाँ मिश्रित हार्डवेयर ढाँचे पर काम कर रही हैं। घरेलू एक्सेलेरेटर इनफरेंस के कुछ हिस्से संभाल सकते हैं, जबकि सीमित संख्या में उपलब्ध हाई-एंड Nvidia प्रोसेसर उन कार्यों के लिए बचाए जाते हैं जिन्हें बदलना सबसे कठिन है। उद्योग रिपोर्टों में जटिल कोडिंग कार्यों को विशेष दबाव वाला क्षेत्र बताया गया है।
कोडिंग और AI एजेंट Nvidia क्षमता क्यों खपाते हैं?
एक साधारण सवाल-जवाब में अपेक्षाकृत कम कंप्यूटिंग लग सकती है। इसके विपरीत, कोडिंग असिस्टेंट या स्वायत्त AI एजेंट को लंबा संदर्भ बनाए रखना, कोड तैयार करना, बाहरी टूल्स को कॉल करना, आउटपुट की जाँच करना और कई बार संशोधन करना पड़ सकता है।
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
"चीन की AI कंपनियाँ हर Nvidia GPU का अधिकतम इस्तेमाल क्यों कर रही हैं?" का संक्षिप्त उत्तर क्या है?
मार्च 2026 में चीन में रोज़ाना औसत AI टोकन कॉल 140 ट्रिलियन से अधिक हो गईं, जो 2024 की शुरुआत के 100 अरब से 1,000 गुना से ज्यादा वृद्धि है।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
मार्च 2026 में चीन में रोज़ाना औसत AI टोकन कॉल 140 ट्रिलियन से अधिक हो गईं, जो 2024 की शुरुआत के 100 अरब से 1,000 गुना से ज्यादा वृद्धि है। कंपनियाँ आसान अनुरोध घरेलू चिप्स पर भेजकर और जटिल, उच्च मूल्य वाले कामों के लिए Nvidia GPUs बचाकर सीमित हार्डवेयर से अधिक उपयोगी आउटपुट निकालने की कोशिश कर रही हैं।
मुझे अभ्यास में आगे क्या करना चाहिए?
प्रीमियम इनफरेंस में अधिक कंप्यूटिंग संसाधन लगते हैं, लेकिन चीनी AI मॉडलों की प्रति टोकन कीमत अमेरिकी कंपनियों की तुलना में औसतन लगभग एक छठी बताई गई है—यही व्यावसायिक दबाव को बढ़ाता है।
इससे सवाल केवल यह नहीं रह जाता कि कंपनी के पास कितने चिप्स हैं। असली सवाल है कि वे चिप्स कितने भरोसेमंद और उच्च-गुणवत्ता वाले काम पूरे कर सकते हैं। यदि घरेलू प्रोसेसर जटिल कोडिंग और रीजनिंग कार्यों में कम प्रभावी हों, तो पूरा इनफरेंस Nvidia हार्डवेयर से हटाने पर गुणवत्ता या दक्षता प्रभावित हो सकती है। ऐसे में Nvidia की दुर्लभ क्षमता उन्हीं कामों के लिए रखनी पड़ती है जहाँ उसका अंतर सबसे अधिक मायने रखता है।
हर टोकन की कीमत और कंप्यूटिंग जरूरत समान नहीं
टोकन AI मॉडल द्वारा संसाधित डेटा की मूल इकाई है। टोकन की कुल संख्या मांग का उपयोगी संकेत देती है, लेकिन सभी टोकन समान प्रकार के काम का प्रतिनिधित्व नहीं करते।
सरल चैट, वर्गीकरण या कम लागत वाले उत्तर सस्ते हार्डवेयर पर चलाए जा सकते हैं। लेकिन बेहतर मॉडल, लंबी रीजनिंग प्रक्रिया, अधिक विश्वसनीय उत्तर या बार-बार होने वाली टूल-कॉल से बनने वाले उच्च-गुणवत्ता वाले टोकन अधिक कंप्यूटिंग और अक्सर अधिक ग्राहक-मूल्य की मांग करते हैं।
इसलिए कुल टोकन में तेज वृद्धि प्रीमियम इनफरेंस की कमी को छिपा सकती है। बाजार में टोकन की संख्या बढ़ रही हो, फिर भी जटिल कार्यों के लिए भरोसेमंद परिणाम देने वाले हार्डवेयर की कमी और तीखी हो सकती है। इसी अंतर के कारण उच्च-गुणवत्ता वाले टोकन उत्पादन और अलग-अलग प्रकार की कंप्यूटिंग क्षमता को जोड़ने वाले सिस्टम पर निवेश बढ़ रहा है।
मांग क्षमता से कहीं तेज बढ़ी
चीन में रोज़ाना औसत AI टोकन कॉल मार्च 2026 में 140 ट्रिलियन से अधिक हो गईं। 2024 की शुरुआत में यह आंकड़ा लगभग 100 अरब था—यानी दो वर्षों में 1,000 गुना से अधिक वृद्धि। ये आंकड़े चीन के राष्ट्रीय डेटा प्रशासन से रिपोर्ट किए गए हैं।
यह उछाल AI के प्रयोगात्मक दौर से बड़े पैमाने पर तैनाती की ओर बढ़ने का संकेत है। AI अब केवल अलग-अलग प्रॉम्प्ट के जवाब तक सीमित नहीं है; वह उपभोक्ता ऐप्स, एंटरप्राइज सॉफ्टवेयर और वास्तविक कार्यप्रवाह पूरा करने वाले एजेंटों में शामिल हो रहा है। नतीजतन, इनफरेंस कंप्यूटिंग खपत का मुख्य चालक बनता जा रहा है, न कि ट्रेनिंग के बाद का कोई गौण चरण।
सॉफ्टवेयर ऑप्टिमाइजेशन सबसे तेज़ उपाय क्यों है?
अमेरिकी निर्यात नियंत्रणों के कारण उन्नत Nvidia उत्पादों तक पहुँच सीमित है। इसके अलावा, हाई-एंड प्रोसेसर की आपूर्ति सीमित है और मौजूदा सॉफ्टवेयर प्लेटफॉर्म को बदलना महँगा पड़ता है। चीन के AI डेवलपर पहले से मौजूद मॉडल, टूल्स और वर्कफ्लो को स्थापित सॉफ्टवेयर प्लेटफॉर्म से जोड़ चुके हैं, इसलिए हार्डवेयर बदलने की लागत केवल चिप खरीदने तक सीमित नहीं रहती।
सॉफ्टवेयर नया सिलिकॉन नहीं बना सकता, लेकिन वह उपलब्ध प्रोसेसर से निकाले जाने वाले उपयोगी काम की मात्रा बढ़ा सकता है। कंपनियाँ मुख्यतः इन तरीकों पर ध्यान दे रही हैं:
वर्कलोड रूटिंग: आसान अनुरोधों को सस्ते या घरेलू एक्सेलेरेटर पर भेजना और जटिल कार्यों के लिए Nvidia GPUs बचाना।
अधिक कुशल सर्विंग: अनुरोधों को बेहतर ढंग से समूहित और शेड्यूल करना, ताकि हार्डवेयर कम समय निष्क्रिय रहे।
रिसोर्स-अवेयर डिप्लॉयमेंट: अनुरोध की कठिनाई और व्यावसायिक मूल्य के अनुसार मॉडल का आकार, संदर्भ की लंबाई और उत्तर की रणनीति तय करना।
हेटेरोजीनियस इंफ्रास्ट्रक्चर: हर काम को एक ही प्लेटफॉर्म पर चलाने के बजाय अलग-अलग चिप आर्किटेक्चर को एक साथ इस्तेमाल करना।
ये कदम बढ़ती मांग और सीमित आपूर्ति के बीच एक व्यावहारिक पुल हैं। हालांकि, वे फ्रंटियर स्तर के हार्डवेयर का पूरा विकल्प नहीं हैं—खासकर तब, जब गुणवत्ता-संवेदनशील काम अभी भी सीमित संख्या में उपलब्ध प्रोसेसर पर निर्भर हों।
कम कीमत और महँगे इनफरेंस का दबाव
इस चुनौती को हल करना इसलिए भी कठिन है क्योंकि इनफरेंस की कीमतों पर दबाव है। Jefferies के विश्लेषकों का अनुमान है कि चीनी मॉडलों की प्रति टोकन औसत लागत अमेरिका की प्रमुख कंपनियों की पेशकशों की तुलना में लगभग एक-छठी है।
कम कीमतें अपनाने की रफ्तार बढ़ा सकती हैं, लेकिन प्रीमियम कंप्यूटिंग के लिए उपलब्ध राजस्व सीमित कर देती हैं। दूसरी ओर, कोडिंग असिस्टेंट और AI एजेंट साधारण चैट की तुलना में कहीं अधिक संसाधन खपा सकते हैं। यानी चीनी AI कंपनियों के सामने एक साथ तीन दबाव हैं: मांग तेजी से बढ़ रही है, ग्राहक सस्ती सेवा चाहते हैं और सबसे सक्षम इनफरेंस क्षमता को जल्दी बढ़ाना या बदलना आसान नहीं है।
सेवा उपलब्धता पर इसका असर भी दिखा है। बाजार से जुड़ी एक रिपोर्ट के अनुसार, मांग उपलब्ध कंप्यूटिंग संसाधनों से अधिक होने पर प्रमुख चीनी मॉडल डेवलपर और क्लाउड प्रदाता सेवाओं की गति घटाने, पहुँच सीमित करने या कीमतें बढ़ाने पर मजबूर हुए—विशेषकर संसाधन-गहन कोडिंग असिस्टेंट के मामले में।
बड़ी तस्वीर: समस्या केवल चिप्स की नहीं
चीन की AI इंफ्रास्ट्रक्चर चुनौती सिर्फ चिप्स की कमी नहीं है। यह उन्नत प्रोसेसर, उनके साथ काम करने वाला सॉफ्टवेयर और उच्च-मूल्य वाले इनफरेंस के लिए आर्थिक रूप से टिकाऊ क्षमता—इन तीनों के सही मेल की कमी है।
सॉफ्टवेयर बेहतर होने और घरेलू चिप्स की खूबियों के अनुसार सिस्टम डिजाइन किए जाने पर स्थानीय हार्डवेयर अधिक काम संभाल सकता है। फिलहाल रणनीति संक्रमणकालीन दिखती है: इनफरेंस की हर परत को अनुकूलित करना, जहाँ संभव हो घरेलू चिप्स का इस्तेमाल करना और सबसे कठिन कार्यों के लिए Nvidia क्षमता बचाकर रखना।
यह तरीका मौजूदा संसाधनों की उपयोगिता बढ़ा सकता है, लेकिन AI एजेंटों का लगातार विस्तार अंततः इस बात पर निर्भर करेगा कि चीन अपने हार्डवेयर भंडार के साथ-साथ उस सॉफ्टवेयर पारिस्थितिकी तंत्र को कितनी तेजी से विकसित कर पाता है जो अलग-अलग प्रोसेसर को व्यावहारिक रूप से साथ काम करने योग्य बनाता है।
scmp.comChina's top AI is still trained on Nvidia chips. What is delaying a ...
इससे सवाल केवल यह नहीं रह जाता कि कंपनी के पास कितने चिप्स हैं। असली सवाल है कि वे चिप्स कितने भरोसेमंद और उच्च-गुणवत्ता वाले काम पूरे कर सकते हैं। यदि घरेलू प्रोसेसर जटिल कोडिंग और रीजनिंग कार्यों में कम प्रभावी हों, तो पूरा इनफरेंस Nvidia हार्डवेयर से हटाने पर गुणवत्ता या दक्षता प्रभावित हो सकती है। ऐसे में Nvidia की दुर्लभ क्षमता उन्हीं कामों के लिए रखनी पड़ती है जहाँ उसका अंतर सबसे अधिक मायने रखता है।
हर टोकन की कीमत और कंप्यूटिंग जरूरत समान नहीं
टोकन AI मॉडल द्वारा संसाधित डेटा की मूल इकाई है। टोकन की कुल संख्या मांग का उपयोगी संकेत देती है, लेकिन सभी टोकन समान प्रकार के काम का प्रतिनिधित्व नहीं करते।
सरल चैट, वर्गीकरण या कम लागत वाले उत्तर सस्ते हार्डवेयर पर चलाए जा सकते हैं। लेकिन बेहतर मॉडल, लंबी रीजनिंग प्रक्रिया, अधिक विश्वसनीय उत्तर या बार-बार होने वाली टूल-कॉल से बनने वाले उच्च-गुणवत्ता वाले टोकन अधिक कंप्यूटिंग और अक्सर अधिक ग्राहक-मूल्य की मांग करते हैं।
इसलिए कुल टोकन में तेज वृद्धि प्रीमियम इनफरेंस की कमी को छिपा सकती है। बाजार में टोकन की संख्या बढ़ रही हो, फिर भी जटिल कार्यों के लिए भरोसेमंद परिणाम देने वाले हार्डवेयर की कमी और तीखी हो सकती है। इसी अंतर के कारण उच्च-गुणवत्ता वाले टोकन उत्पादन और अलग-अलग प्रकार की कंप्यूटिंग क्षमता को जोड़ने वाले सिस्टम पर निवेश बढ़ रहा है।
मांग क्षमता से कहीं तेज बढ़ी
चीन में रोज़ाना औसत AI टोकन कॉल मार्च 2026 में 140 ट्रिलियन से अधिक हो गईं। 2024 की शुरुआत में यह आंकड़ा लगभग 100 अरब था—यानी दो वर्षों में 1,000 गुना से अधिक वृद्धि। ये आंकड़े चीन के राष्ट्रीय डेटा प्रशासन से रिपोर्ट किए गए हैं।
यह उछाल AI के प्रयोगात्मक दौर से बड़े पैमाने पर तैनाती की ओर बढ़ने का संकेत है। AI अब केवल अलग-अलग प्रॉम्प्ट के जवाब तक सीमित नहीं है; वह उपभोक्ता ऐप्स, एंटरप्राइज सॉफ्टवेयर और वास्तविक कार्यप्रवाह पूरा करने वाले एजेंटों में शामिल हो रहा है। नतीजतन, इनफरेंस कंप्यूटिंग खपत का मुख्य चालक बनता जा रहा है, न कि ट्रेनिंग के बाद का कोई गौण चरण।
सॉफ्टवेयर ऑप्टिमाइजेशन सबसे तेज़ उपाय क्यों है?
अमेरिकी निर्यात नियंत्रणों के कारण उन्नत Nvidia उत्पादों तक पहुँच सीमित है। इसके अलावा, हाई-एंड प्रोसेसर की आपूर्ति सीमित है और मौजूदा सॉफ्टवेयर प्लेटफॉर्म को बदलना महँगा पड़ता है। चीन के AI डेवलपर पहले से मौजूद मॉडल, टूल्स और वर्कफ्लो को स्थापित सॉफ्टवेयर प्लेटफॉर्म से जोड़ चुके हैं, इसलिए हार्डवेयर बदलने की लागत केवल चिप खरीदने तक सीमित नहीं रहती।
सॉफ्टवेयर नया सिलिकॉन नहीं बना सकता, लेकिन वह उपलब्ध प्रोसेसर से निकाले जाने वाले उपयोगी काम की मात्रा बढ़ा सकता है। कंपनियाँ मुख्यतः इन तरीकों पर ध्यान दे रही हैं:
वर्कलोड रूटिंग: आसान अनुरोधों को सस्ते या घरेलू एक्सेलेरेटर पर भेजना और जटिल कार्यों के लिए Nvidia GPUs बचाना।
अधिक कुशल सर्विंग: अनुरोधों को बेहतर ढंग से समूहित और शेड्यूल करना, ताकि हार्डवेयर कम समय निष्क्रिय रहे।
रिसोर्स-अवेयर डिप्लॉयमेंट: अनुरोध की कठिनाई और व्यावसायिक मूल्य के अनुसार मॉडल का आकार, संदर्भ की लंबाई और उत्तर की रणनीति तय करना।
हेटेरोजीनियस इंफ्रास्ट्रक्चर: हर काम को एक ही प्लेटफॉर्म पर चलाने के बजाय अलग-अलग चिप आर्किटेक्चर को एक साथ इस्तेमाल करना।
ये कदम बढ़ती मांग और सीमित आपूर्ति के बीच एक व्यावहारिक पुल हैं। हालांकि, वे फ्रंटियर स्तर के हार्डवेयर का पूरा विकल्प नहीं हैं—खासकर तब, जब गुणवत्ता-संवेदनशील काम अभी भी सीमित संख्या में उपलब्ध प्रोसेसर पर निर्भर हों।
कम कीमत और महँगे इनफरेंस का दबाव
इस चुनौती को हल करना इसलिए भी कठिन है क्योंकि इनफरेंस की कीमतों पर दबाव है। Jefferies के विश्लेषकों का अनुमान है कि चीनी मॉडलों की प्रति टोकन औसत लागत अमेरिका की प्रमुख कंपनियों की पेशकशों की तुलना में लगभग एक-छठी है।
कम कीमतें अपनाने की रफ्तार बढ़ा सकती हैं, लेकिन प्रीमियम कंप्यूटिंग के लिए उपलब्ध राजस्व सीमित कर देती हैं। दूसरी ओर, कोडिंग असिस्टेंट और AI एजेंट साधारण चैट की तुलना में कहीं अधिक संसाधन खपा सकते हैं। यानी चीनी AI कंपनियों के सामने एक साथ तीन दबाव हैं: मांग तेजी से बढ़ रही है, ग्राहक सस्ती सेवा चाहते हैं और सबसे सक्षम इनफरेंस क्षमता को जल्दी बढ़ाना या बदलना आसान नहीं है।
सेवा उपलब्धता पर इसका असर भी दिखा है। बाजार से जुड़ी एक रिपोर्ट के अनुसार, मांग उपलब्ध कंप्यूटिंग संसाधनों से अधिक होने पर प्रमुख चीनी मॉडल डेवलपर और क्लाउड प्रदाता सेवाओं की गति घटाने, पहुँच सीमित करने या कीमतें बढ़ाने पर मजबूर हुए—विशेषकर संसाधन-गहन कोडिंग असिस्टेंट के मामले में।
बड़ी तस्वीर: समस्या केवल चिप्स की नहीं
चीन की AI इंफ्रास्ट्रक्चर चुनौती सिर्फ चिप्स की कमी नहीं है। यह उन्नत प्रोसेसर, उनके साथ काम करने वाला सॉफ्टवेयर और उच्च-मूल्य वाले इनफरेंस के लिए आर्थिक रूप से टिकाऊ क्षमता—इन तीनों के सही मेल की कमी है।
सॉफ्टवेयर बेहतर होने और घरेलू चिप्स की खूबियों के अनुसार सिस्टम डिजाइन किए जाने पर स्थानीय हार्डवेयर अधिक काम संभाल सकता है। फिलहाल रणनीति संक्रमणकालीन दिखती है: इनफरेंस की हर परत को अनुकूलित करना, जहाँ संभव हो घरेलू चिप्स का इस्तेमाल करना और सबसे कठिन कार्यों के लिए Nvidia क्षमता बचाकर रखना।
यह तरीका मौजूदा संसाधनों की उपयोगिता बढ़ा सकता है, लेकिन AI एजेंटों का लगातार विस्तार अंततः इस बात पर निर्भर करेगा कि चीन अपने हार्डवेयर भंडार के साथ-साथ उस सॉफ्टवेयर पारिस्थितिकी तंत्र को कितनी तेजी से विकसित कर पाता है जो अलग-अलग प्रोसेसर को व्यावहारिक रूप से साथ काम करने योग्य बनाता है।
scmp.comChina's top AI is still trained on Nvidia chips. What is delaying a ...