AS vs China dalam Perlombaan Chip AI: Siapa Lebih Unggul?

Arsitektur dan Performa Komputasi

Akselerator AI dari AS saat ini masih memimpin dalam performa komputasi mentah yang terdokumentasi.

Sebagai contoh:

• AMD MI325X mencapai sekitar 1.3 PFLOPS FP16 performa teoretis.
• Google TPU v6e menawarkan 918 TFLOPs bf16 per chip dan dirancang untuk bekerja dalam pod berisi ratusan chip.

Di sisi China, beberapa desain terbaru mencoba memperkecil jarak tersebut.

• Huawei Ascend 910C diperkirakan mencapai sekitar 800 TFLOPS FP16 dengan desain dual‑chiplet.
• Biren BR100 menghadirkan hingga 256 TFLOPS FP32 dan sekitar 2,048 TOPS INT8 dalam GPU multi‑die.
• Cambricon MLU370‑X8 memberikan 96 TFLOPS FP16 serta 256 TOPS INT8 untuk pelatihan dan inferensi AI.

Secara umum, performa chip AI modern sangat bergantung pada operasi matriks dan tensor yang digunakan dalam pelatihan model deep learning.

Memori dan Bandwidth

Model AI besar memindahkan data dalam jumlah sangat besar antara memori dan unit komputasi. Karena itu, HBM (High Bandwidth Memory) menjadi komponen penting dalam akselerator AI.

Beberapa contoh spesifikasi memori:

• AMD MI325X memiliki 256GB HBM3E dengan bandwidth sekitar 6 TB/s.
• TPU v6e menggunakan 32GB HBM dengan bandwidth sekitar 1.6 TB/s.
• Huawei Ascend 910C dilaporkan mencapai bandwidth sekitar 3.2 TB/s.
• Biren BR100 menyediakan 64GB HBM2E dengan bandwidth sekitar 2.3 TB/s.

Bandwidth tinggi membantu mempercepat operasi tensor besar yang umum dalam pelatihan model AI modern.

Interkoneksi dan Skalabilitas

Pelatihan model AI jarang dilakukan pada satu chip saja. Biasanya ratusan hingga ribuan akselerator dihubungkan dalam satu klaster komputasi besar.

Contohnya:

• Google TPU v6e menggunakan jaringan Inter‑Chip Interconnect (ICI) yang memungkinkan pod berisi hingga 256 chip.
• Cambricon MLU370‑X8 menggunakan MLU‑Link dengan throughput komunikasi sekitar 200GB/s antar kartu.
• GPU Biren juga menyediakan interkoneksi GPU‑ke‑GPU berkecepatan tinggi untuk klaster akselerator.

Dalam praktiknya, arsitektur klaster sering sama pentingnya dengan performa chip individu.

Manufaktur dan Rantai Pasok

Teknologi fabrikasi semikonduktor berpengaruh besar terhadap efisiensi energi dan performa.

Beberapa chip AI China masih bergantung pada teknologi manufaktur eksternal. Misalnya:

• Biren BR100 diproduksi menggunakan proses 7 nm TSMC dan packaging CoWoS.
• Ascend 910C menggunakan proses 7 nm‑class dari SMIC, dengan beberapa wafer berasal dari produksi sebelum pembatasan ekspor AS.

Sementara itu, chip yang dirancang di AS biasanya memanfaatkan rantai pasok global dengan akses ke teknologi fabrikasi dan packaging paling mutakhir.

Ekosistem Software

Performa hardware saja tidak cukup menentukan dominasi di komputasi AI.

Keunggulan besar perusahaan AS adalah ekosistem software yang matang, seperti:

• CUDA dari Nvidia
• ROCm dari AMD
• software stack TPU dari Google

Huawei mencoba membangun alternatif domestik melalui framework CANN (Compute Architecture for Neural Networks) untuk chip Ascend.

Bagi banyak perusahaan AI, dukungan framework, tooling pengembang, dan integrasi cloud sering menjadi faktor utama dalam memilih hardware.

Apa yang Ditunjukkan Perbandingan Ini

Beberapa pola penting muncul dari generasi akselerator AI saat ini:

• Kepemimpinan performa: Chip AI dari AS masih menunjukkan performa komputasi dan kapasitas memori yang lebih tinggi dalam spesifikasi yang tersedia.
• Strategi substitusi domestik: China mengembangkan beberapa lini chip seperti Ascend, Biren, dan Cambricon untuk mengurangi ketergantungan pada hardware AS.
• Kompetisi sistem skala besar: Kedua pihak semakin bersaing pada level klaster AI dan superkomputer, bukan hanya satu chip.

Dengan ukuran model AI yang terus meningkat, faktor seperti arsitektur memori, jaringan interkoneksi, kemampuan manufaktur, dan ekosistem software kemungkinan akan menentukan platform mana yang mendominasi komputasi AI di masa depan.