PyTorch बोर्ड में Cambricon की सीट: चिप से ज्यादा सॉफ्टवेयर पोर्टेबिलिटी का दांव

Cambricon का PyTorch Foundation में Platinum सदस्य के रूप में शामिल होना मुख्यतः दीर्घकालिक सॉफ्टवेयर और इकोसिस्टम रणनीति है। इसे किसी नए AI चिप या सिलिकॉन उत्पाद की घोषणा नहीं मानना चाहिए। लक्ष्य यह है कि Cambricon के MLU एक्सेलेरेटर AI डेवलपमेंट की पूरी प्रक्रिया—PyTorch में मॉडल बनाने और ट्रेनिंग से लेकर प्रोडक्शन इन्फरेंस सर्विंग तक—के लिए अधिक स्वाभाविक और कम-रुकावट वाला विकल्प बनें। 5

शंघाई में PyTorch Conference China के दौरान Cambricon और Alibaba Cloud Platinum सदस्य बने, जबकि Ant Group Gold स्तर पर शामिल हुआ। Platinum सदस्यता Cambricon को Foundation के Governing Board में एक सीट और Technical Advisory Council (TAC) में प्रतिनिधित्व देती है। 156

बोर्ड सीट का वास्तविक महत्व क्या है?

बोर्ड सीट से यह गारंटी नहीं मिलती कि Cambricon के हर तकनीकी प्रस्ताव को मंजूरी मिल जाएगी। लेकिन इससे कंपनी को Foundation के मिशन, दायरे, नीतियों और तकनीकी दिशा पर होने वाली औपचारिक चर्चाओं में स्थान मिलता है।

Governing Board में Cambricon का प्रतिनिधित्व AI Frameworks and Infrastructure के Senior Director Jin Wang कर रहे हैं। TAC में भागीदारी कंपनी को उन तकनीकी चर्चाओं के करीब ले जाती है जो PyTorch में एक्सेलेरेटर बैकएंड के एकीकरण और रखरखाव को प्रभावित कर सकती हैं। 5

यह महत्वपूर्ण है क्योंकि किसी एक्सेलेरेटर को अपनाने का फैसला केवल चिप के स्पेसिफिकेशन से नहीं होता। डेवलपर्स को भरोसेमंद फ्रेमवर्क सपोर्ट, संगत टूल, उपयोगी दस्तावेज़, स्थिर इंटरफेस और प्रोडक्शन सर्विंग का रास्ता भी चाहिए। यदि किसी हार्डवेयर विक्रेता को PyTorch का बड़ा अलग संस्करण बनाए रखना पड़े, तो हर अपस्ट्रीम अपडेट के साथ संगतता बनाए रखने की लागत और जोखिम बढ़ते हैं।

“Upstream First”: अलग सॉफ्टवेयर स्टैक से बचने की कोशिश

Cambricon अपनी रणनीति को “Upstream First” कहता है। कंपनी के अनुसार, उसने torch.compile, Eager operators, device runtime, distributed computing, automatic mixed precision (AMP), DataLoader और Profiler समेत PyTorch के कई मुख्य क्षेत्रों में योगदान दिया है। 5

इसका उद्देश्य केवल एक अलग, विक्रेता-विशिष्ट कार्यान्वयन पर टिके रहने के बजाय PyTorch की सामान्य अमूर्तताओं और मानक इंटरफेस के जरिये योगदान करना है। यदि यह काम अपस्ट्रीम में स्वीकार होता है और समय के साथ बनाए रखा जाता है, तो कुछ व्यावहारिक लाभ मिल सकते हैं:

• कम रखरखाव बोझ: नए PyTorch संस्करणों के साथ अलग बैकएंड को बार-बार समायोजित करने की जरूरत कम हो सकती है।
• अधिक परिचित डेवलपर अनुभव: डेवलपर्स परिचित PyTorch API और टूलिंग इस्तेमाल कर सकेंगे, बजाय किसी बिल्कुल अलग स्टैक को सीखने के।
• बेहतर पोर्टेबिलिटी: समर्थित एक्सेलेरेटर प्लेटफॉर्मों का मूल्यांकन करते समय मॉडल कोड और उसके आसपास की टूलिंग में कम बदलाव की जरूरत पड़ सकती है।
• ज्यादा टिकाऊ एकीकरण: सामान्य फ्रेमवर्क इंटरफेस किसी एक डिवाइस स्टैक के लिए बने अस्थायी पैच से अधिक स्थिर हो सकते हैं।

Cambricon का Torch-MLU कार्य, जिसमें PrivateUse1-शैली का इंटीग्रेशन पथ शामिल है, यह संकेत देता है कि कंपनी अतिरिक्त डिवाइसों के समर्थन के लिए PyTorch के स्थापित विस्तार-तंत्र का उपयोग करना चाहती है। उपयोगकर्ताओं के लिए अपेक्षित नतीजा कम एक्सेलेरेटर-विशिष्ट कोड है—लेकिन यह लक्ष्य है, गारंटी नहीं। यह इम्प्लीमेंटेशन की गुणवत्ता, अपस्ट्रीम समीक्षा और भविष्य के PyTorch रिलीज़ के साथ सतत संगतता पर निर्भर करेगा।

PyTorch से vLLM सर्विंग तक की रणनीति

सदस्यता की घोषणा एक व्यापक लक्ष्य की ओर भी इशारा करती है: प्रयोग और विकास से लेकर तैनात इन्फरेंस तक की पूरी राह को समर्थन देना।

PyTorch Foundation के कार्यकारी निदेशक Mark Collier ने चुनौती को इस रूप में रखा कि डेवलपर्स PyTorch में मॉडल बना और अनुकूलित कर सकें, फिर उन्हें vLLM के साथ कुशलतापूर्वक सर्व कर सकें। 5 Cambricon के लिए ये दो पूरक स्तर हैं:

• PyTorch सपोर्ट मॉडल डेवलपमेंट, ट्रेनिंग, कंपाइलेशन, डिबगिंग और इकोसिस्टम टूलिंग के लिए केंद्रीय है।
• vLLM सपोर्ट प्रोडक्शन सर्विंग स्तर को संबोधित करता है, जहां कुशल इन्फरेंस और लोकप्रिय ओपन मॉडल तक पहुंच महत्वपूर्ण होती है।

Cambricon का कहना है कि वह अपने हार्डवेयर पर ओपन मॉडल सक्षम करने के लिए vLLM के साथ काम जारी रखे हुए है। कंपनी ने कंपाइल इन्फ्रास्ट्रक्चर, CI/CD और PyTorch की डोमेन लाइब्रेरी के लिए डिवाइस-एग्नॉस्टिक सपोर्ट में आगे निवेश की योजना भी बताई है। 5 इन प्रयासों का संयुक्त उद्देश्य MLU प्लेटफॉर्म को सिर्फ बेंचमार्क या अलग-अलग मॉडल पोर्ट तक सीमित न रखकर, डेवलपर से प्रोडक्शन तक के अधिक पूर्ण वर्कफ़्लो में उपयोगी बनाना है।

आगे किन संकेतों पर नजर रखें?

घोषणा के बाद ही सबसे अहम प्रमाण सामने आएंगे। डेवलपर्स और इन्फ्रास्ट्रक्चर टीमें इन ठोस संकेतों को देख सकती हैं:

1. अपस्ट्रीम में मर्ज हुए योगदान: PyTorch में स्वीकार किए गए बदलाव, घोषित इरादों से अधिक मायने रखते हैं।
2. हर रिलीज़ के साथ संगतता: Torch-MLU सपोर्ट को बड़े और बाधक री-राइट के बिना PyTorch अपडेट के साथ चलना चाहिए।
3. वास्तविक वर्कलोड का कवरेज: सामान्य मॉडल आर्किटेक्चर, डिस्ट्रीब्यूटेड ट्रेनिंग पैटर्न, कंपाइलेशन पाथ और डिबगिंग टूल तक समर्थन बढ़ना चाहिए।
4. प्रोडक्शन इन्फरेंस की गुणवत्ता: vLLM इंटीग्रेशन में भरोसेमंद मॉडल सपोर्ट और संभालने योग्य डिप्लॉयमेंट वर्कफ़्लो जरूरी होंगे।
5. एक्सेलेरेटर इंटीग्रेशन के स्पष्ट दिशानिर्देश: TAC की चर्चाएं और PyTorch की भविष्य की प्रथाएं हार्डवेयर बैकएंड के लिए अधिक अनुमानित रास्ते दे सकती हैं।

अहम सीमा

Cambricon की Platinum सदस्यता और शासन-संबंधी प्रतिनिधित्व रणनीतिक रूप से महत्वपूर्ण हैं, लेकिन इनसे अन्य एक्सेलेरेटर के बराबर प्रदर्शन, व्यापक मॉडल कवरेज या Cambricon की पसंद के हर बैकएंड डिज़ाइन की स्वचालित स्वीकृति सिद्ध नहीं होती।

यह सब इस पर निर्भर करेगा कि वास्तव में क्या अपस्ट्रीम में मर्ज होता है, PyTorch का तकनीकी समुदाय और TAC प्रस्तावित तरीकों को कैसे परखते हैं, और Cambricon समय के साथ कितनी मजबूत PyTorch तथा vLLM इंटीग्रेशन बनाए रख पाता है। फिलहाल, यह घोषणा सबसे स्पष्ट रूप से यही संकेत देती है कि Cambricon डेवलपर्स के लिए ओपन-सोर्स सॉफ्टवेयर संगतता और इकोसिस्टम भागीदारी के जरिए प्रतिस्पर्धा कर रहा है—सिर्फ एक और Day-0 हार्डवेयर लॉन्च के जरिए नहीं। 5