Strategi AI Qualcomm untuk Menantang Nvidia Bertumpu pada Komputasi Dekat Memori

Qualcomm tidak mencoba meniru Nvidia hanya dengan membuat satu GPU baru. Perusahaan ini sedang membangun platform data center yang menargetkan salah satu masalah paling mahal dalam AI: perpindahan bobot model berukuran besar melalui memori saat proses inference, terutama ketika model menghasilkan token satu per satu.

Jawabannya adalah High Bandwidth Compute (HBC), arsitektur komputasi dekat memori yang menjadi inti portofolio Dragonfly. Di sekelilingnya, Qualcomm menyiapkan CPU server, jaringan, layanan custom silicon, perangkat lunak yang lebih portabel, serta jalur deployment dari cloud hingga perangkat edge.

Namun, penting untuk membedakan antara visi arsitektur dan bukti produk. Klaim Qualcomm baru akan benar-benar teruji setelah perangkat keras masuk produksi, benchmark independen tersedia, rantai pasok terbukti mampu memenuhi permintaan, dan pelanggan menggunakan sistem tersebut dalam operasi nyata.

HBC membidik hambatan memori dalam AI inference

Dalam inference autoregresif, sistem berulang kali membaca data model dari memori setiap kali menghasilkan token baru. Akibatnya, perpindahan data, energi untuk mengakses memori, dan latensi dapat menjadi penentu utama biaya layanan AI.

HBC dirancang untuk mendekatkan komputasi ke data. Qualcomm menempatkan die komputasi di bawah tumpukan memori LPDDR, lalu menghubungkan lapisan-lapisan tersebut dengan through-silicon vias (TSV), yaitu jalur vertikal padat yang menembus silikon. 245

Perbedaannya cukup penting. Qualcomm tidak sekadar mengatakan bahwa LPDDR memiliki bandwidth puncak konvensional yang selalu lebih tinggi daripada semua sistem HBM. Argumennya adalah bahwa operasi tertentu dapat dilakukan di dalam paket memori, sehingga data tidak perlu terus-menerus berpindah antara memori dan prosesor utama. Untuk beban kerja inference yang sesuai, hal itu dapat meningkatkan bandwidth efektif dan efisiensi pembuatan token. 29

Untuk generasi pertama HBC yang dikaitkan dengan Dragonfly AI250, Qualcomm menyatakan bahwa desain tersebut ditujukan untuk mencapai bandwidth memori efektif sebesar 133 TB/s per kartu, atau peningkatan 18 kali dibandingkan AI200 yang menggunakan LPDDR5X. 4 Laporan lain menyebut klaim Qualcomm bahwa HBC dapat menawarkan bandwidth per watt hingga enam kali lipat dibandingkan implementasi HBM saat ini. 813

Angka-angka tersebut perlu dibaca dengan hati-hati. Bandwidth efektif, bandwidth per kartu, bandwidth pada tingkat rak, dan bandwidth satu tumpukan HBM merupakan ukuran yang berbeda. Membandingkan ratusan terabita per detik dengan satu angka bandwidth HBM belum tentu merupakan perbandingan yang setara.

Karena itu, klaim Qualcomm sebaiknya dipahami terlebih dahulu sebagai klaim arsitektur dan performa per watt. Pembuktian yang lebih menentukan adalah benchmark independen yang mengukur throughput token, latensi, konsumsi energi, serta total biaya kepemilikan pada model dan konfigurasi yang setara.

Samsung dan SK hynix menjadi bagian dari tantangan manufaktur

Qualcomm merancang lapisan komputasi dan mengintegrasikan sistem, sementara Samsung Electronics dan SK hynix dilaporkan ikut dalam pengembangan HBC sebagai mitra memori. Laporan yang tersedia menempatkan sebagian pekerjaan stacking dan memori pada kedua pemasok tersebut, dengan teknologi packaging canggih juga berperan penting dalam keseluruhan sistem. 15

Dengan demikian, HBC bukan hanya taruhan desain prosesor, melainkan juga taruhan packaging dan manufaktur. Keberhasilan komersialnya akan bergantung pada beberapa hal:

• kualifikasi memori;
• tingkat keberhasilan perakitan 3D;
• pengelolaan panas;
• pengujian dan keandalan;
• kapasitas produksi; serta
• biaya pembuatan sistem secara keseluruhan.

Arsitektur yang terlihat menarik di atas kertas tetap dapat gagal bersaing jika hasil produksi rendah, suhu operasi sulit dikendalikan, atau pasokan tidak cukup untuk kebutuhan data center.

Roadmap Qualcomm menempatkan komersialisasi HBC generasi pertama pada 2027 dan generasi kedua pada 2028. 14 Artinya, HBC lebih tepat dipandang sebagai transisi platform dalam beberapa siklus produk, bukan pengganti langsung bagi perangkat Nvidia yang sudah terpasang di data center.

Dragonfly dirancang sebagai platform yang lebih luas

Qualcomm memasarkan Dragonfly sebagai portofolio data center, bukan akselerator yang berdiri sendiri. Roadmap-nya mencakup sistem inference AI, HBC, CPU server C1000, konektivitas jaringan, akselerator AI300, serta layanan custom silicon. 1516

Dragonfly C1000 adalah prosesor server berbasis chiplet yang ditujukan untuk AI agentik, beban kerja umum, dan AI head node—komponen yang mengatur atau mengoordinasikan pemrosesan AI dalam sebuah sistem. 7

Qualcomm dan Meta juga telah mengumumkan kerja sama CPU multi-generasi. Produksi generasi pertama C1000 direncanakan dimulai pada paruh kedua 2028. 18

Kesepakatan itu memberi Qualcomm sinyal validasi yang penting: Meta menjadi pelanggan CPU server yang diumumkan dan Qualcomm memperoleh jalur masuk ke armada server hyperscaler. Tetapi cakupannya tidak boleh dibesar-besarkan. Kesepakatan tersebut belum membuktikan bahwa Meta akan menggunakan akselerator HBC dalam volume besar. Keputusan itu tetap akan bergantung pada performa, keandalan, dukungan perangkat lunak, pasokan, integrasi jaringan, dan total biaya kepemilikan.

Perangkat lunak menjadi senjata melawan ketergantungan pada CUDA

Perangkat keras saja kemungkinan tidak cukup untuk menggoyang platform AI yang sudah mapan. Salah satu keunggulan terbesar Nvidia bukan hanya GPU, melainkan juga CUDA, pustaka perangkat lunak, alat pengembangan, kebiasaan pengembang, dan rekam jejak produksi.

Akuisisi Qualcomm terhadap Modular menambahkan bahasa pemrograman Mojo serta platform MAX ke dalam strateginya. Qualcomm menyatakan bahwa teknologi tersebut ditujukan untuk mendukung AI generatif dan AI agentik pada lingkungan data center maupun edge. 19

Tujuan strategisnya adalah portabilitas. Pengembang diharapkan dapat memindahkan model dan beban kerja di antara prosesor yang berbeda tanpa membangun ulang seluruh stack perangkat lunak untuk satu vendor tertentu. Modular juga mempertahankan misi ekosistem terbuka, dan laporan dari konferensi 2026 menyebut Mojo serta compilernya telah dibuka sepenuhnya sebagai open source. 46

Jika berhasil, pendekatan ini dapat menurunkan biaya perpindahan bagi pelanggan yang ingin mengevaluasi perangkat Qualcomm bersama Nvidia, AMD, dan akselerator lain. Namun, ekosistem terbuka tidak otomatis memiliki kedalaman pustaka CUDA, tooling, pengalaman pengembang, dan sejarah deployment Nvidia.

Klaim tentang peningkatan performa besar dibandingkan implementasi native sebaiknya tetap dipandang sebagai klaim prospektif sampai tersedia benchmark yang transparan dan dapat diulang. Demikian pula, bukti yang tersedia belum cukup untuk memastikan laporan bahwa AMD sedang mengevaluasi teknologi tersebut.

Qualcomm juga memperluas strategi CPU melalui RISC-V. Akuisisi yang didokumentasikan adalah Ventana Micro Systems, bukan perusahaan bernama “Antenna Microsystems” seperti yang disebut dalam pertanyaan riset awal. Qualcomm mengatakan Ventana memperkuat kemampuan rekayasa CPU RISC-V dan upaya pengembangan ekosistemnya. 2354

Hugging Face memperkuat narasi cloud-to-edge

Kemitraan Qualcomm dengan Hugging Face ditujukan untuk membawa beban kerja internal dan pengembang Hugging Face ke sistem data center Dragonfly, membantu onboarding model, serta mendukung orkestrasi hibrida antara perangkat dan data center. 21

Langkah ini mendukung posisi Qualcomm yang lebih luas: perusahaan ingin melayani data center, ponsel, sistem tertanam, dan perangkat untuk physical AI. Keuntungannya adalah jalur deployment yang lebih berkesinambungan dari infrastruktur cloud ke perangkat edge.

Tantangannya, portofolio yang luas baru akan menjadi alternatif berarti bagi Nvidia jika pengembang dapat menjalankan model nyata dengan mudah dan operator memperoleh ekonomi produksi yang lebih baik. Dukungan satu klik atau kompatibilitas model tidak dengan sendirinya menyelesaikan persoalan performa, keandalan, dan biaya pada skala data center.

HBC berada di tengah perlombaan desain ulang memori

Pendekatan Qualcomm merupakan bagian dari upaya industri yang lebih besar untuk mengurangi jumlah data yang harus bergerak antara memori dan unit komputasi.

Samsung mengembangkan LPDDR5X-PIM, yang menambahkan logika pemrosesan ke DRAM berdaya rendah sehingga operasi tertentu dapat berlangsung lebih dekat dengan data yang tersimpan. Dalam demonstrasinya, Samsung melaporkan throughput inference yang lebih tinggi dibandingkan LPDDR5X konvensional. Liputan independen atas presentasi Hot Chips menyebut angka 81,3 token per detik dibandingkan 27 token per detik pada perbandingan yang dikutip. 313639

SK hynix mengambil pendekatan dari sisi HBM. Teknologi hybrid bonding dan iHBM yang dipresentasikan perusahaan berupaya mengatasi persoalan panas dan kepadatan ketika tumpukan memori dibuat semakin tinggi dan bandwidth terus meningkat. 32 Laporan terpisah menyebut SK hynix belum memperkirakan hybrid bonding siap digunakan pada HBM4E, sehingga transisi tersebut mungkin baru hadir pada generasi HBM berikutnya. 40

Samsung juga melaporkan sampel HBM4E dengan bandwidth hingga 3,6 TB/s per tumpukan dan kecepatan pin hingga 16 Gbps. 41 Roadmap HBM yang terus bergerak ini penting untuk diperhatikan: HBC tidak akan berhadapan dengan HBM versi 2025 atau 2026 yang statis, melainkan dengan teknologi memori yang juga terus berkembang.

Bukti yang tersedia belum cukup untuk mengonfirmasi secara spesifik klaim mengenai perangkat MX1 berbasis CXL milik Samsung, adopsi oleh DeepX, maupun peringatan tertentu dari Micron tentang memburuknya bottleneck memori. Detail-detail tersebut tidak seharusnya diperlakukan sebagai fakta yang sudah terbukti dalam analisis ini.

Apa yang harus dibuktikan Qualcomm berikutnya?

Strategi Qualcomm memiliki logika yang cukup jelas:

• Memulai dari inference: HBC dirancang untuk beban kerja decode-heavy, ketika perpindahan data dapat mendominasi ekonomi setiap token. 29
• Mengintegrasikan seluruh sistem: Dragonfly menggabungkan akselerator, CPU, jaringan, dan layanan custom silicon, bukan mengandalkan satu chip saja. 1516
• Mengurangi hambatan perangkat lunak: Mojo dan MAX ditujukan untuk membuat beban kerja lebih mudah dipindahkan di antara berbagai platform perangkat keras. 1946
• Membangun kredibilitas pelanggan: Kesepakatan C1000 dengan Meta memberi Qualcomm hubungan CPU server hyperscaler yang telah diumumkan, dengan produksi direncanakan pada paruh kedua 2028. 18
• Memperluas cakupan deployment: Kemitraan Hugging Face mendukung strategi Qualcomm dari cloud hingga edge. 21

Risikonya juga tidak kalah jelas. HBC harus masuk produksi dengan tingkat keberhasilan dan karakteristik termal yang dapat diterima. Qualcomm perlu menerbitkan perbandingan spesifik beban kerja yang membedakan bandwidth efektif dari bandwidth antarmuka mentah. Compiler dan runtime-nya harus mendukung model nyata secara konsisten. Mitra memori harus mampu memasok teknologi tersebut dalam skala besar. Pada akhirnya, pelanggan harus menilai bahwa manfaatnya cukup besar untuk membenarkan penggunaan platform tambahan di samping CUDA.

Kesimpulannya: Qualcomm telah merancang alternatif arsitektur yang masuk akal dengan sasaran salah satu kendala terpenting infrastruktur AI—perpindahan data selama inference. Namun berdasarkan roadmap saat ini, HBC masih merupakan tantangan masa depan, bukan bukti bahwa dominasi Nvidia telah tergeser.

Titik pembuktian utamanya adalah perangkat HBC generasi pertama pada 2027, dimulainya produksi C1000 pada paruh kedua 2028, serta validasi independen dari pelanggan mengenai throughput, efisiensi energi, keandalan, dan total biaya kepemilikan.