Jingang GC3: RISC-V और Dataflow चिप वीडियो AI की बड़ी अड़चन कैसे दूर करना चाहती है

Jingang GC3, जिसे King Kong GC3 के नाम से भी जाना जाता है, SmarCo HT Tech की एक रिपोर्टेड विशेष वीडियो-AI और जनरेटिव-AI प्रोसेसर है। इसका उद्देश्य वीडियो डिकोडिंग, AI इंफरेंस और वीडियो जनरेशन को अलग-अलग डिवाइसों पर चलाने के बजाय Dataflow-केंद्रित आर्किटेक्चर के तहत एक ही प्लेटफॉर्म पर लाना है। रिपोर्टेड स्पेसिफिकेशन में 12 RISC-V कोर, 200 TOPS INT8 कंप्यूट और 128GB की यूनिफाइड LPDDR5 ECC मेमोरी शामिल हैं। 35

हालांकि, इस चिप की खासियत केवल 200 TOPS का आंकड़ा नहीं है। GC3 का मूल दावा यह है कि वीडियो वर्कलोड में काफी समय और ऊर्जा गणना करने के बजाय फ्रेम, मॉडल डेटा और इंटरमीडिएट परिणामों को अलग-अलग प्रोसेसरों और मेमोरी सिस्टम के बीच ले जाने में खर्च होती है। इसका Dataflow इंजन, साझा मेमोरी और एकीकृत वीडियो-AI पाथ इसी डेटा मूवमेंट को घटाने के लिए डिजाइन किए गए हैं।

वीडियो AI में डेटा ट्रांसफर क्यों बड़ी समस्या है

एक सामान्य वीडियो-अंडरस्टैंडिंग पाइपलाइन में पहले वीडियो स्ट्रीम को फ्रेमों में डिकोड किया जाता है। इसके बाद वे फ्रेम GPU तक भेजे जाते हैं, जहां विजन इंफरेंस चलता है और परिणाम आगे की प्रोसेसिंग से गुजरते हैं। एक साथ चलने वाली स्ट्रीमों की संख्या बढ़ने पर असली गणना के साथ-साथ डेटा ट्रांसफर और अलग-अलग चरणों का तालमेल भी bottleneck बन सकता है। 3

वीडियो जनरेशन में भी ऐसी ही चुनौती दिखाई देती है। Diffusion और Transformer आधारित सिस्टम बड़े मॉडल पैरामीटर तथा भारी इंटरमीडिएट परिणामों के साथ काम करते हैं। GC3 से जुड़ी रिपोर्टिंग के अनुसार, ये इंटरमीडिएट डेटा सेट सैकड़ों गीगाबाइट तक पहुंच सकते हैं। उन्हें बार-बार पढ़ना, लिखना और एक डिवाइस से दूसरी डिवाइस तक भेजना बैंडविड्थ, बिजली और समय—तीनों के लिहाज से महंगा पड़ता है। 3

यानी समस्या केवल AI गणना के लिए पर्याप्त arithmetic units की नहीं है। बड़ी चुनौती यह भी है कि अत्यधिक समानांतर वर्कलोड के कई चरणों के बीच डेटा और काम का समन्वय कैसे किया जाए।

GC3 आर्किटेक्चर में क्या-क्या जोड़ा गया है

Dataflow कंप्यूटिंग

पारंपरिक control-flow डिजाइन में एक केंद्रीय प्रोसेसर या scheduler निर्देशों को fetch और issue करता है, जबकि डेटा मेमोरी की अलग-अलग परतों से होकर गुजरता है। यह तरीका लचीला है, लेकिन रिपोर्टेड विवरणों के अनुसार, नियमित और बड़े पैमाने पर समानांतर वीडियो ऑपरेशनों के लिए हमेशा आदर्श नहीं होता। 3

Dataflow डिजाइन में किसी ऑपरेशन के लिए जरूरी डेटा उपलब्ध होते ही गणना आगे बढ़ सकती है। सिद्धांत रूप में इससे अधिक समानांतरता सामने आती है और केंद्रीय scheduling तथा global coordination के कारण होने वाली प्रतीक्षा घट सकती है। वीडियो वर्कलोड में इसका लक्ष्य यह है कि एक ही नियंत्रण पथ पर बार-बार निर्भर हुए बिना अधिक processing stages सक्रिय रहें। 3

यह एक आर्किटेक्चरल लक्ष्य है, किसी खास speedup का प्रमाण नहीं। उपलब्ध स्रोतों में नामित CPU, GPU या वीडियो-AI प्लेटफॉर्म के साथ स्वतंत्र end-to-end तुलना नहीं दी गई है।

RISC-V कंट्रोल कोर

रिपोर्टेड डिजाइन में 12 RISC-V कोर programmable control layer की भूमिका निभाते हैं। वीडियो और AI के लिए विशेष processing paths काम संभालते हैं, जबकि RISC-V कोर सामान्य नियंत्रण और scheduling प्रदान करते हैं। इस तरह हर चरण की जिम्मेदारी एक पारंपरिक CPU पर नहीं डालनी पड़ती। 35

इस व्यवस्था में RISC-V को पूरी compute engine के रूप में पेश नहीं किया जा रहा है। यह Dataflow इंजन तथा dedicated video और AI functions के साथ मिलकर काम करता है—यानी प्लेटफॉर्म को programmable control मिलता है और high-throughput ऑपरेशनों के लिए विशेष हार्डवेयर का इस्तेमाल होता है।

128GB यूनिफाइड मेमोरी

GC3 में CPU, VPU, GPU और NPU पाथ के बीच साझा 128GB LPDDR5 ECC मेमोरी होने की रिपोर्ट है। 35 इसका उद्देश्य अलग-अलग CPU और GPU मेमोरी पूल के बीच डेटा कॉपी करने की जरूरत को कम करना है।

साझा मेमोरी पूल से decoded frames, model weights और intermediate tensors कई processing blocks के लिए उपलब्ध रह सकते हैं, बिना हर बार डिवाइस-टू-डिवाइस ट्रांसफर के। ECC यानी Error-Correcting Code मेमोरी में त्रुटियों का पता लगाने और उन्हें संभालने की क्षमता जोड़ता है। RISC-V प्रोसेसरों के संदर्भ में ECC-protected memory पर fault tolerance बेहतर करने के लिए शोध भी हुआ है। 1

फिर भी यूनिफाइड मेमोरी सभी bandwidth सीमाओं को खत्म नहीं करती। इसका व्यावहारिक लाभ मेमोरी बैंडविड्थ, सॉफ्टवेयर स्टैक, scheduling और वास्तविक वर्कलोड पर निर्भर करेगा।

एकीकृत वीडियो और AI पाथ

रिपोर्टेड डिजाइन में वीडियो encode और decode को AI compute के साथ एक ही प्लेटफॉर्म पर जोड़ा गया है। इससे वीडियो ingest से understanding तक और generated content से encoding तक का रास्ता अधिक सीधा बनाने का लक्ष्य है। 35

प्रस्तावित वर्कफ्लो कुछ इस तरह है:

• प्लेटफॉर्म पर वीडियो को decode करना;
• फ्रेमों को संबंधित AI पाथ के लिए उपलब्ध रखना;
• अलग-अलग डिवाइस सीमाओं को बार-बार पार किए बिना understanding या generation चलाना; और
• उसी एकीकृत सिस्टम पर आउटपुट को encode करना।

इसका अर्थ यह नहीं है कि हर ऑपरेशन एक ही अविभाज्य चरण में चलता है। आशय यह है कि अलग-अलग प्रोसेसरों और मेमोरी सिस्टमों के बीच अनावश्यक handoff कम किए जाएं।

लागत, बिजली और लेटेंसी घटाने का लक्ष्य

चिप का संभावित आर्थिक असर सीधे इसी आर्किटेक्चर से जुड़ा है। यदि किसी वर्कलोड में कम कॉपी, कम memory round trips और कम cross-device synchronization हो, तो सिस्टम डेटा को इधर-उधर ले जाने के बजाय गणना पर अधिक समय और ऊर्जा खर्च कर सकता है। यह मल्टी-स्ट्रीम वीडियो understanding, स्थानीय वीडियो प्रोसेसिंग और बड़े इंटरमीडिएट टेंसर वाले वीडियो जनरेशन में उपयोगी हो सकता है। 3

संभावित लाभों को तीन हिस्सों में समझा जा सकता है:

• लेटेंसी: decoding, AI और encoding चरणों के बीच कम ट्रांसफर से इनपुट फ्रेम से परिणाम तक का रास्ता छोटा हो सकता है।
• पावर: डेटा मूवमेंट घटने पर मेमोरी एक्सेस और interconnect traffic में खर्च होने वाली ऊर्जा कम हो सकती है।
• लागत: एकीकृत प्लेटफॉर्म कई अलग-अलग विशेष डिवाइसों के समन्वय से जुड़ी infrastructure और operational overhead को घटा सकता है।

हालांकि, ये उपलब्ध रिपोर्टिंग में बताए गए लक्ष्य हैं, स्वतंत्र रूप से सत्यापित परिणाम नहीं। स्रोत headline specifications और आर्किटेक्चर का तर्क देते हैं, लेकिन प्रति वीडियो लागत, प्रति स्ट्रीम वाट या end-to-end latency में वास्तविक कमी का मापा हुआ प्रमाण नहीं देते।

स्पेसिफिकेशन क्या बताते हैं—और क्या नहीं

रिपोर्टेड 200 TOPS का आंकड़ा INT8 AI compute capacity बताता है, किसी एप्लिकेशन का निश्चित प्रदर्शन नहीं। वास्तविक वीडियो-AI throughput मॉडल compatibility, precision, memory bandwidth, compiler और runtime support, वीडियो format, batch size, stream count तथा Dataflow scheduler की क्षमता पर भी निर्भर करेगा।

इसी तरह, 128GB यूनिफाइड मेमोरी बड़े मॉडल और इंटरमीडिएट डेटा को संभालने में मदद कर सकती है, लेकिन केवल क्षमता का बड़ा आंकड़ा यह साबित नहीं करता कि कोई खास वीडियो-generation मॉडल कुशलता से चलेगा। सॉफ्टवेयर सपोर्ट और वास्तविक memory traffic अब भी निर्णायक रहेंगे।

निष्कर्ष

Jingang GC3 को वीडियो-AI processing path को data locality के इर्द-गिर्द फिर से डिजाइन करने की एक विशेष कोशिश के रूप में समझना सबसे उचित है। इसका रिपोर्टेड संयोजन—Dataflow execution, RISC-V कंट्रोल कोर, एकीकृत CPU/VPU/GPU/NPU पाथ और 128GB यूनिफाइड मेमोरी—उन ट्रांसफर और synchronization barriers को संबोधित करने का लक्ष्य रखता है जो पारंपरिक CPU-GPU पाइपलाइन को सीमित कर सकते हैं। 35

यदि हार्डवेयर और सॉफ्टवेयर अपेक्षित तरीके से साथ काम करते हैं, तो यह आर्किटेक्चर मल्टी-स्ट्रीम वीडियो understanding और वीडियो जनरेशन को अधिक कुशल बना सकता है। फिलहाल सबसे मजबूत और सावधान निष्कर्ष यही है कि GC3 एक विश्वसनीय आर्किटेक्चरल रणनीति और vendor-reported specifications पेश करता है—लेकिन कम लागत, कम बिजली खपत या कम latency का स्वतंत्र रूप से सत्यापित प्रमाण अभी उपलब्ध नहीं है।