Kursi Cambricon di Dewan PyTorch: Taruhan pada Portabilitas Perangkat Lunak AI

Keanggotaan Cambricon sebagai anggota Platinum PyTorch Foundation paling tepat dibaca sebagai strategi jangka panjang di sisi perangkat lunak dan ekosistem—bukan pengumuman produk silikon baru. Sasarannya adalah membuat akselerator MLU milik Cambricon menjadi target yang lebih alami sepanjang siklus pengembangan AI, dari pembuatan serta pelatihan model di PyTorch hingga layanan inferensi di lingkungan produksi. 5

Dalam PyTorch Conference China di Shanghai, Cambricon dan Alibaba Cloud bergabung sebagai anggota Platinum, sementara Ant Group masuk pada tingkat Gold. Status Platinum memberi Cambricon satu kursi di Governing Board Foundation serta perwakilan di Technical Advisory Council (TAC). 156

Mengapa kursi di dewan penting

Kursi di dewan tidak menjamin usulan teknis Cambricon akan diterima. Namun, posisi itu memberi perusahaan tempat resmi dalam pembahasan mengenai misi, cakupan, kebijakan, dan arah teknis Foundation.

Perwakilan Cambricon di Governing Board adalah Jin Wang, Senior Director of AI Frameworks and Infrastructure. Keterlibatan perusahaan di TAC juga mendekatkannya pada diskusi teknis yang dapat memengaruhi cara backend akselerator diintegrasikan dan dipelihara dalam PyTorch. 5

Hal ini penting karena adopsi akselerator tidak semata ditentukan oleh spesifikasi chip. Pengembang memerlukan dukungan framework yang andal, alat yang kompatibel, dokumentasi yang mudah dipakai, antarmuka stabil, serta jalur menuju penyajian inferensi di produksi. Vendor perangkat keras yang harus mempertahankan fork PyTorch besar dan terpisah akan terus menanggung beban kompatibilitas setiap kali proyek utama PyTorch berubah.

“Upstream First” untuk menghindari masalah tumpukan perangkat lunak terpisah

Cambricon menyebut pendekatannya sebagai “Upstream First”. Perusahaan mengatakan telah berkontribusi pada sejumlah area inti PyTorch, termasuk torch.compile, operator Eager, runtime perangkat, komputasi terdistribusi, automatic mixed precision (AMP), DataLoader, dan Profiler. 5

Secara strategis, pendekatan ini bertujuan memberi kontribusi melalui abstraksi umum PyTorch, alih-alih hanya mengandalkan implementasi yang terisolasi dan khusus vendor. Jika pekerjaan tersebut diterima serta dipelihara di proyek upstream, manfaat praktisnya dapat mencakup:

• Beban pemeliharaan lebih rendah: kebutuhan untuk terus menyelaraskan backend terpisah dengan versi PyTorch baru bisa berkurang.
• Alur kerja pengembang lebih konsisten: pengembang dapat memakai API dan alat PyTorch yang sudah familier, tanpa harus mempelajari tumpukan yang sangat berbeda.
• Portabilitas lebih baik: kode model dan perangkat pendukungnya berpotensi memerlukan lebih sedikit perubahan ketika tim mengevaluasi platform akselerator yang didukung.
• Integrasi yang lebih tahan lama: antarmuka framework bersama cenderung lebih stabil dibanding patch satu kali yang terikat pada tumpukan perangkat tertentu.

Pekerjaan Torch-MLU Cambricon, termasuk jalur integrasi bergaya PrivateUse1, mengarah pada pemanfaatan mekanisme PyTorch yang sudah tersedia untuk memperluas dukungan ke perangkat tambahan. Hasil yang diharapkan adalah lebih sedikit kode khusus akselerator bagi pengguna. Namun, itu tetap merupakan tujuan, bukan jaminan: realisasinya bergantung pada mutu implementasi, tinjauan upstream, dan kompatibilitas berkelanjutan dengan rilis PyTorch mendatang.

Dari pengembangan PyTorch ke layanan vLLM

Pengumuman keanggotaan ini juga menunjukkan sasaran yang lebih luas: mendukung seluruh perjalanan dari eksperimen hingga inferensi yang sudah dideploy.

Direktur eksekutif PyTorch Foundation, Mark Collier, membingkai tantangannya sebagai kemampuan agar pengembang dapat membangun serta mengoptimalkan model di PyTorch, lalu menyajikannya secara efisien dengan vLLM. 5 Bagi Cambricon, keduanya adalah lapisan yang saling melengkapi:

• Dukungan PyTorch penting untuk pengembangan model, pelatihan, kompilasi, debugging, dan alat ekosistem.
• Dukungan vLLM menyasar lapisan penyajian produksi, tempat efisiensi inferensi dan akses terhadap model terbuka populer menjadi penting.

Cambricon menyatakan akan melanjutkan kerja dengan vLLM untuk mengaktifkan model terbuka di perangkat kerasnya, sekaligus berinvestasi lebih lanjut pada infrastruktur kompilasi, CI/CD, dan dukungan device-agnostic untuk pustaka domain PyTorch. 5 Secara bersama-sama, langkah tersebut ditujukan agar platform MLU dapat dipakai bukan hanya untuk benchmark atau porting satu model, melainkan untuk alur kerja yang lebih lengkap dari pengembang ke produksi.

Hal yang perlu dipantau pengguna

Bukti paling berarti justru akan muncul setelah pengumuman keanggotaan. Pengembang dan tim infrastruktur perlu memperhatikan sejumlah tanda berikut bahwa integrasi ini benar-benar matang:

1. Kontribusi yang digabungkan ke upstream: perubahan yang diterima PyTorch lebih penting daripada sekadar niat yang diumumkan.
2. Kompatibilitas antar-rilis: dukungan Torch-MLU harus mengikuti pembaruan PyTorch tanpa menuntut penulisan ulang yang mengganggu.
3. Cakupan beban kerja nyata: dukungan perlu menjangkau arsitektur model umum, pola pelatihan terdistribusi, jalur kompilasi, dan alat debugging.
4. Kualitas inferensi produksi: integrasi vLLM memerlukan dukungan model yang andal dan alur deployment yang mudah dipelihara.
5. Panduan integrasi akselerator yang jelas: pembahasan TAC dan praktik PyTorch di masa depan dapat menciptakan jalur yang lebih dapat diprediksi bagi backend perangkat keras.

Batas penting dari pengumuman ini

Keanggotaan Platinum dan keterwakilan Cambricon dalam tata kelola memang penting secara strategis. Namun, hal itu belum membuktikan kesetaraan performa dengan akselerator lain, cakupan model yang luas, maupun penerimaan otomatis atas desain backend pilihan Cambricon.

Hasil tersebut akan ditentukan oleh kontribusi yang benar-benar digabungkan ke upstream, penilaian komunitas teknis PyTorch dan TAC terhadap pendekatan yang diajukan, serta kemampuan Cambricon menjaga integrasi PyTorch dan vLLM yang kuat dalam jangka panjang. Untuk saat ini, pengumuman tersebut paling kuat sebagai sinyal bahwa Cambricon bersaing merebut pengembang melalui kompatibilitas perangkat lunak sumber terbuka dan partisipasi ekosistem—bukan semata-mata melalui peluncuran perangkat keras pada hari pertama. 5