टोकन AI मॉडल द्वारा संसाधित डेटा की मूल इकाई है। टोकन की कुल संख्या मांग का उपयोगी संकेत देती है, लेकिन सभी टोकन समान प्रकार के काम का प्रतिनिधित्व नहीं करते।
सरल चैट, वर्गीकरण या कम लागत वाले उत्तर सस्ते हार्डवेयर पर चलाए जा सकते हैं। लेकिन बेहतर मॉडल, लंबी रीजनिंग प्रक्रिया, अधिक विश्वसनीय उत्तर या बार-बार होने वाली टूल-कॉल से बनने वाले उच्च-गुणवत्ता वाले टोकन अधिक कंप्यूटिंग और अक्सर अधिक ग्राहक-मूल्य की मांग करते हैं।
इसलिए कुल टोकन में तेज वृद्धि प्रीमियम इनफरेंस की कमी को छिपा सकती है। बाजार में टोकन की संख्या बढ़ रही हो, फिर भी जटिल कार्यों के लिए भरोसेमंद परिणाम देने वाले हार्डवेयर की कमी और तीखी हो सकती है। इसी अंतर के कारण उच्च-गुणवत्ता वाले टोकन उत्पादन और अलग-अलग प्रकार की कंप्यूटिंग क्षमता को जोड़ने वाले सिस्टम पर निवेश बढ़ रहा है।
चीन में रोज़ाना औसत AI टोकन कॉल मार्च 2026 में 140 ट्रिलियन से अधिक हो गईं। 2024 की शुरुआत में यह आंकड़ा लगभग 100 अरब था—यानी दो वर्षों में 1,000 गुना से अधिक वृद्धि। ये आंकड़े चीन के राष्ट्रीय डेटा प्रशासन से रिपोर्ट किए गए हैं।
यह उछाल AI के प्रयोगात्मक दौर से बड़े पैमाने पर तैनाती की ओर बढ़ने का संकेत है। AI अब केवल अलग-अलग प्रॉम्प्ट के जवाब तक सीमित नहीं है; वह उपभोक्ता ऐप्स, एंटरप्राइज सॉफ्टवेयर और वास्तविक कार्यप्रवाह पूरा करने वाले एजेंटों में शामिल हो रहा है। नतीजतन, इनफरेंस कंप्यूटिंग खपत का मुख्य चालक बनता जा रहा है, न कि ट्रेनिंग के बाद का कोई गौण चरण।
अमेरिकी निर्यात नियंत्रणों के कारण उन्नत Nvidia उत्पादों तक पहुँच सीमित है। इसके अलावा, हाई-एंड प्रोसेसर की आपूर्ति सीमित है और मौजूदा सॉफ्टवेयर प्लेटफॉर्म को बदलना महँगा पड़ता है। चीन के AI डेवलपर पहले से मौजूद मॉडल, टूल्स और वर्कफ्लो को स्थापित सॉफ्टवेयर प्लेटफॉर्म से जोड़ चुके हैं, इसलिए हार्डवेयर बदलने की लागत केवल चिप खरीदने तक सीमित नहीं रहती।
सॉफ्टवेयर नया सिलिकॉन नहीं बना सकता, लेकिन वह उपलब्ध प्रोसेसर से निकाले जाने वाले उपयोगी काम की मात्रा बढ़ा सकता है। कंपनियाँ मुख्यतः इन तरीकों पर ध्यान दे रही हैं:
ये कदम बढ़ती मांग और सीमित आपूर्ति के बीच एक व्यावहारिक पुल हैं। हालांकि, वे फ्रंटियर स्तर के हार्डवेयर का पूरा विकल्प नहीं हैं—खासकर तब, जब गुणवत्ता-संवेदनशील काम अभी भी सीमित संख्या में उपलब्ध प्रोसेसर पर निर्भर हों।
इस चुनौती को हल करना इसलिए भी कठिन है क्योंकि इनफरेंस की कीमतों पर दबाव है। Jefferies के विश्लेषकों का अनुमान है कि चीनी मॉडलों की प्रति टोकन औसत लागत अमेरिका की प्रमुख कंपनियों की पेशकशों की तुलना में लगभग एक-छठी है।
कम कीमतें अपनाने की रफ्तार बढ़ा सकती हैं, लेकिन प्रीमियम कंप्यूटिंग के लिए उपलब्ध राजस्व सीमित कर देती हैं। दूसरी ओर, कोडिंग असिस्टेंट और AI एजेंट साधारण चैट की तुलना में कहीं अधिक संसाधन खपा सकते हैं। यानी चीनी AI कंपनियों के सामने एक साथ तीन दबाव हैं: मांग तेजी से बढ़ रही है, ग्राहक सस्ती सेवा चाहते हैं और सबसे सक्षम इनफरेंस क्षमता को जल्दी बढ़ाना या बदलना आसान नहीं है।
सेवा उपलब्धता पर इसका असर भी दिखा है। बाजार से जुड़ी एक रिपोर्ट के अनुसार, मांग उपलब्ध कंप्यूटिंग संसाधनों से अधिक होने पर प्रमुख चीनी मॉडल डेवलपर और क्लाउड प्रदाता सेवाओं की गति घटाने, पहुँच सीमित करने या कीमतें बढ़ाने पर मजबूर हुए—विशेषकर संसाधन-गहन कोडिंग असिस्टेंट के मामले में।
चीन की AI इंफ्रास्ट्रक्चर चुनौती सिर्फ चिप्स की कमी नहीं है। यह उन्नत प्रोसेसर, उनके साथ काम करने वाला सॉफ्टवेयर और उच्च-मूल्य वाले इनफरेंस के लिए आर्थिक रूप से टिकाऊ क्षमता—इन तीनों के सही मेल की कमी है।
सॉफ्टवेयर बेहतर होने और घरेलू चिप्स की खूबियों के अनुसार सिस्टम डिजाइन किए जाने पर स्थानीय हार्डवेयर अधिक काम संभाल सकता है। फिलहाल रणनीति संक्रमणकालीन दिखती है: इनफरेंस की हर परत को अनुकूलित करना, जहाँ संभव हो घरेलू चिप्स का इस्तेमाल करना और सबसे कठिन कार्यों के लिए Nvidia क्षमता बचाकर रखना।
यह तरीका मौजूदा संसाधनों की उपयोगिता बढ़ा सकता है, लेकिन AI एजेंटों का लगातार विस्तार अंततः इस बात पर निर्भर करेगा कि चीन अपने हार्डवेयर भंडार के साथ-साथ उस सॉफ्टवेयर पारिस्थितिकी तंत्र को कितनी तेजी से विकसित कर पाता है जो अलग-अलग प्रोसेसर को व्यावहारिक रूप से साथ काम करने योग्य बनाता है।