openPangu 2.0 Pro memiliki sekitar 505 miliar parameter total, tetapi hanya sekitar 18 miliar parameter yang aktif untuk setiap token—bukan 180 miliar. Huawei telah membuka bobot model, kode inferensi dasar, dan laporan teknis; kode pra pelatihan, pascapelatihan, serta operator pelatihan merupakan bagian dari rencan...
Jawaban penelitian

Create a landscape editorial hero image for this Studio Global article: How does Huawei’s open-sourcing of openPangu-2.0-Pro—a 505B-parameter MoE model with roughly 180B active parameters, 512K context, 34T-token. Article summary: One correction: openPangu-2.0-Pro has about 505B total parameters but roughly 18B—not 180B—activated per token. The release is significant because it makes an Ascend-native, non-NVIDIA path inspectable from model design . Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Rilis openPangu-2.0-Pro dari Huawei lebih penting daripada sekadar unggahan checkpoint model. Namun, ada batas yang perlu ditegaskan: rilis ini membuka jalur yang cukup besar untuk memeriksa dan menjalankan model besar di platform Ascend Huawei, bukan resep siap pakai untuk mengulang pelatihan model skala frontier dari nol.
Spesifikasinya juga kerap keliru disebut. openPangu-2.0-Pro adalah model mixture-of-experts (MoE) dengan sekitar 505 miliar parameter total, tetapi sekitar 18 miliar parameter aktif per token. Model ini mendukung konteks hingga 512K token dan dilatih menggunakan sekitar 34 triliun token, menurut kartu modelnya. 21
Pada 31 Juli 2026, Huawei mengumumkan rilis terbuka openPangu-2.0-Pro, yang mencakup bobot model, kode inferensi dasar, dan laporan teknis. Huawei juga menyatakan bahwa komponen terkait openPangu 2.0 akan tersedia secara bertahap melalui kanal sumber terbukanya. 12
Ketiga artefak tersebut berguna untuk tujuan yang berbeda:
Dalam peta jalan HDC 2026, Huawei juga menyebut pembukaan bertahap tujuh komponen, termasuk kode pra-pelatihan, kode pascapelatihan, dan operator pelatihan. 2
10 Bila tersedia dalam bentuk yang benar-benar dapat digunakan, lapisan-lapisan itu akan membawa proyek ini lebih dekat ke tumpukan lengkap dari pelatihan hingga inferensi dibanding rilis yang hanya menyediakan bobot model.
Model dengan bobot terbuka tidak otomatis berarti proses pelatihannya bisa direproduksi. Bobot yang dapat diunduh membuktikan checkpoint tersebut dapat diuji, tetapi tidak membuka seluruh kondisi yang diperlukan untuk menghasilkan checkpoint serupa lagi.
Untuk mengulang pra-pelatihan berbasis 34 triliun token, setidaknya dibutuhkan data yang persis sama atau spesifikasi pembuatan data yang dapat direproduksi; implementasi lengkap pelatihan dan pascapelatihan; hyperparameter; topologi klaster; versi perangkat lunak dan kompilator; konfigurasi pelatihan terdistribusi; operator khusus; metode evaluasi; serta perangkat keras yang kompatibel dalam jumlah memadai. Materi yang telah dikonfirmasi mencakup bobot, kode inferensi dasar, dan laporan, sedangkan komponen lain digambarkan Huawei sebagai rilis bertahap. 12
21
Karena itu, deskripsi yang paling adil saat ini adalah: model terbuka yang berorientasi pada Ascend, dengan jalur yang dinyatakan menuju transparansi tumpukan perangkat lunak yang lebih luas. Rilis ini belum membuktikan bahwa organisasi luar dapat mereproduksi pelatihan awalnya secara independen hari ini.
openPangu-2.0-Pro menggabungkan jumlah parameter total yang sangat besar dengan mekanisme untuk menekan biaya komputasi saat menghasilkan teks dan menangani konteks panjang.
Pada model MoE, setiap token diarahkan hanya ke sebagian parameter ahli. Untuk Pro, kartu model mencantumkan sekitar 505B parameter total dan sekitar 18B parameter aktif per token. 21
Ini tidak menjadikannya model ringan. Penyimpanan, penyajian, dan komunikasi antarmesin untuk model 505B tetap menuntut infrastruktur besar. Namun, jumlah komputasi parameter per token dapat lebih rendah dibanding model padat (dense) dengan ukuran total setara.
Model ini mempertahankan MLA dan menggabungkan DSA dengan sliding-window attention (SWA) dalam rasio lapisan 1:2. Huawei menjelaskan bahwa lapisan SWA menangani pemodelan jendela lokal, sementara lapisan DSA menangkap konteks global secara sparse. Tujuannya adalah menurunkan biaya komputasi, kebutuhan memori, dan akses memori pada inferensi konteks panjang tanpa mengorbankan akurasi. 21
Pendekatan ini menjawab masalah utama konteks 512K: perhatian penuh terhadap setiap token menjadi sangat mahal. Atensi lokal menangani informasi berdekatan dengan lebih murah, sementara mekanisme global sparse ditujukan agar informasi relevan yang jauh tetap dapat dijangkau.
Huawei juga menjelaskan topologi residual mHC empat aliran untuk meningkatkan keragaman representasi dan kemampuan generalisasi. Modul prediksi multi-token dengan tiga kepala memprediksi token masa depan tambahan, yang ditujukan untuk mempercepat inferensi. Kartu model turut menyebut penggunaan pengoptimal Muon, dengan sasaran konvergensi pelatihan yang lebih cepat. 21
Semua itu adalah klaim desain dan optimasi dari materi yang dipublikasikan Huawei, bukan bukti independen bahwa peningkatan kecepatan tertentu akan muncul di setiap deployment. Throughput dan latensi sangat dipengaruhi konfigurasi akselerator, presisi numerik, batching, panjang konteks, pola trafik, dan perangkat lunak penyajian model.
Jendela 512K token dapat memungkinkan agen mempertimbangkan jauh lebih banyak bahan sumber—misalnya manual, dokumen kebijakan, log, keluaran alat sebelumnya, dan spesifikasi—dalam satu sesi. Hal itu dapat mengurangi kebutuhan pemotongan dokumen secara agresif, tetapi tidak menghapus kebutuhan akan retrieval, pengaturan izin akses, pengecekan sumber, dan persetujuan manusia.
Contoh penggunaan bernilai tinggi antara lain:
Bagi banyak organisasi yang sumber dayanya lebih terbatas, Pro kemungkinan tetap sulit di-host sendiri meskipun memakai aktivasi sparse. Huawei juga merilis varian openPangu-2.0-Flash yang memiliki 92B parameter total dan 6B parameter aktif per token; varian ini berpotensi lebih realistis untuk evaluasi dan deployment. 15
20
Huawei melaporkan skor 68,5 pada SWE-bench Verified untuk versi Thinking openPangu-2.0-Pro. 24 Hasil benchmark ini patut diperhatikan, tetapi tidak dapat dibaca sebagai bukti bahwa model sanggup menangani pekerjaan rekayasa perangkat lunak produksi yang kompleks secara andal tanpa pengawasan.
Repositori nyata bergantung pada penyiapan lingkungan, dependensi, eksekusi pengujian, tinjauan keamanan, keputusan arsitektur, kebutuhan produk yang berubah, dan debugging berkelanjutan dalam banyak langkah. Pola penerapan yang lebih masuk akal adalah agen coding dengan pengawasan: akses terbatas pada repositori, eksekusi tersandbox, pengujian otomatis, analisis statis, code review, serta prosedur rollback—bukan penggabungan kode secara otonom.
Nilai strategisnya bukan hanya bobot model. Model referensi yang dirancang untuk Ascend dapat mendorong pengembang membangun, menguji, dan mengoptimalkan beban kerja di Ascend. Beban kerja itu lalu meningkatkan kebutuhan terhadap runtime, operator, alat pengembangan, dan layanan terkelola yang lebih baik.
Huawei secara eksplisit mengarahkan pengembang, mitra perusahaan, dan peneliti ke komunitas Ascend Tribe serta layanan Huawei Cloud MaaS untuk mengunduh, memakai, dan memberi umpan balik. 12
Kehadiran Flash dan Pro pada skala berbeda memperluas calon pengguna. Sementara itu, rencana membuka komponen pelatihan, pascapelatihan, dan operator menyasar lapisan perangkat lunak yang menentukan apakah sebuah platform perangkat keras benar-benar praktis bagi pembuat model. 10
15
Jadi, openPangu 2.0 paling tepat dipahami sebagai upaya memperkuat ekosistem pengembangan Ascend-plus-Pangu. Keterbukaannya sudah berarti untuk deployment, inspeksi, dan eksperimen. Namun, klaim reproduksibilitas penuh baru layak dinilai setelah kode, konfigurasi, dan rincian terkait data yang tersisa tersedia—serta setelah kelompok independen menguji sejauh mana sistem ini benar-benar dapat dibangun ulang.
Studio Global AI
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
openPangu 2.0 Pro memiliki sekitar 505 miliar parameter total, tetapi hanya sekitar 18 miliar parameter yang aktif untuk setiap token—bukan 180 miliar.
openPangu 2.0 Pro memiliki sekitar 505 miliar parameter total, tetapi hanya sekitar 18 miliar parameter yang aktif untuk setiap token—bukan 180 miliar. Huawei telah membuka bobot model, kode inferensi dasar, dan laporan teknis; kode pra pelatihan, pascapelatihan, serta operator pelatihan merupakan bagian dari rencana pembukaan bertahap.
Nilai utamanya adalah jalur pengembangan dan deployment yang berorientasi pada Ascend, sementara reproduksi penuh pelatihan awal masih memerlukan data, konfigurasi, perangkat lunak, dan komputasi yang sangat besar.