Qualcomm dan Cornelis Mahu Rangkaian AI Buat Lebih Daripada Mengalirkan Data

Kluster AI bukan hanya memerlukan GPU atau pemecut yang pantas. Ia juga perlu menghantar dan menyelaraskan data antara banyak pelayan serta pemecut dengan cepat dan konsisten. Di sinilah Qualcomm dan Cornelis Networks melihat peluang: menjadikan rangkaian sebagai sebahagian aktif daripada sistem pengkomputeran AI, khususnya apabila beban kerja inferens dan kluster perkakasan campuran semakin besar.

Namun, ada perbezaan penting. Pengumuman ini ialah kerjasama strategik dan penampilan bersama di AI Infra Summit, bukannya pelancaran produk Qualcomm–Cornelis yang telah dihantar kepada pelanggan. Qualcomm menyatakan visi Cornelis tentang fabrik rangkaian terbuka dan boleh atur cara sehaluan dengan usaha meningkatkan penggunaan perkakasan AI serta ekonominya. 57

Rangkaian sebagai lapisan pengkomputeran aktif

Cornelis menamakan pendekatannya Active Compute Fabric. Dalam model biasa, suis dan kad antara muka rangkaian (NIC) terutama sekali menghantar paket dari satu titik ke titik lain. Active Compute Fabric pula memasukkan elemen pengkomputeran dan pecutan yang boleh diprogramkan terus ke dalam fabrik rangkaian.

Menurut Cornelis, sebahagian pemprosesan komunikasi dan operasi kolektif boleh dibuat ketika data bergerak dalam rangkaian, bukannya meletakkan semua kerja itu pada hos atau pemecut AI. 515 Tujuannya ialah mengurangkan masa GPU menunggu input, suatu pembaziran yang boleh menjadi mahal dalam latihan dan inferens AI teragih.

Seni bina ini merangkumi dua tugas rangkaian:

• Scale-out: menghubungkan pelayan atau nod merentas kluster.
• Scale-up: menghubungkan pemecut dengan lebih rapat dalam sistem berskala rak.

Dalam beban kerja AI teragih, komunikasi kolektif dan trafik banyak-ke-satu boleh menjadi titik sempit. Jika rangkaian dapat menguruskan bahagian kerja itu dengan lebih baik, lebih banyak masa pemecut boleh digunakan untuk menjalankan model. 121

Bagaimana reka bentuk tanpa kehilangan data cuba mengurangkan kesesakan

Active Compute Fabric menghimpunkan tiga komponen: pengangkutan tanpa kehilangan data (lossless transport), pecutan di dalam fabrik, dan pengkomputeran boleh atur cara. 5

Bagi platform CN5000 berasaskan Omni-Path, Cornelis menerangkan reka bentuk pengangkutan tanpa kehilangan data berasaskan kredit, penghalaan adaptif terperinci, kawalan aliran yang peka terhadap incast—apabila banyak penghantar membanjiri satu penerima—serta ulangan semula pada aras pautan. Secara ringkas, mekanisme ini direka untuk mengelakkan limpahan penimbal dan kesesakan daripada mengganggu penghantaran data. 18

Nilai ekonominya mudah difahami: jika komunikasi siap dengan lebih stabil dan menggunakan kurang sumber pada bahagian pemecut, lebih banyak masa pemecut mahal itu boleh diperuntukkan kepada pelaksanaan model. Ini berpotensi memperbaiki pulangan pelaburan infrastruktur AI.

Tetapi itu masih tesis reka bentuk, bukannya keputusan muktamad yang terbukti untuk semua pusat data. Cornelis menerbitkan perbandingan prestasi dan tuntutan penggunaan, namun pengendali perlu menilainya berdasarkan model, corak komunikasi, susunan perisian dan topologi kluster sendiri. 15

Kedudukan produk: yang sudah ada dan yang masih dalam pelan hala tuju

Kematangan produk Cornelis tidak sama bagi setiap bahagian seni binanya.

• CN5000 ialah fabrik scale-out Omni-Path 400 Gb/s hujung ke hujung yang sudah dihantar. Ia merangkumi SuperNIC, suis, perisian dan kabel, serta diposisikan untuk AI dan pengkomputeran berprestasi tinggi (HPC) dengan kawalan kesesakan dan operasi tanpa kehilangan data. 17
• CN6000 ialah platform rangkaian pintar generasi seterusnya untuk latihan AI, inferens dan HPC. Laporan menyatakan ia menambah sokongan Ethernet dan sedang disediakan untuk ketersediaan lebih meluas. 68
• CN7000 ialah platform scale-up natif yang dirancang. Inilah komponen pelan hala tuju yang paling relevan sebagai alternatif terus kepada sambungan rapat dalam rak seperti NVLink, tetapi ia belum menjadi pengganti teknologi scale-up Nvidia yang digunakan secara meluas. 219

Maksudnya, Cornelis sudah mempunyai produk scale-out komersial, tetapi tawaran scale-up paling menyeluruhnya masih bergantung pada pelaksanaan akan datang.

Taruhan pada keterbukaan dan perkakasan heterogen

Cornelis memasarkan Active Compute Fabric sebagai seni bina terbuka untuk persekitaran scale-up dan scale-out. Pelan halanya merujuk kepada Ethernet, Ultra Ethernet, RoCE dan teknologi berkaitan UALink, berbanding rangkaian yang terikat kepada satu pembekal pemecut sahaja. 1119

Bagi pengendali pusat data, pendekatan ini secara teori memberi lebih banyak pilihan: fabrik boleh digandingkan dengan GPU, CPU, pemecut tersuai dan komponen lain daripada pelbagai pembekal. Cornelis juga menyatakan CN5000 boleh beroperasi bersama pemecut daripada AMD, Intel, Nvidia dan lain-lain. 23

Namun, keterbukaan bukan jaminan kesederhanaan. Sistem heterogen perlu membuktikan keserasian yang kukuh, bekalan perkakasan yang mencukupi dan perisian yang matang pada peringkat keseluruhan sistem—bukan sekadar serasi pada peringkat komponen.

Bagaimana Cornelis melengkapi strategi pusat data Qualcomm

Hubungan dengan Cornelis melengkapkan usaha Qualcomm yang lebih besar untuk menjadi pembekal pengkomputeran dan sambungan bagi pusat data AI.

Qualcomm dan Amazon telah mengumumkan kerjasama berbilang generasi bagi silikon tersuai untuk inferens AI berskala besar serta sambungan optik sehingga 1.6 Tb/s. Reuters melaporkan Amazon berpotensi membeli sehingga AS$60 bilion produk cip pusat data AI dan produk berkaitan Qualcomm di bawah aturan jangka panjang itu, tertakluk pada syaratnya. 3324

Qualcomm turut menyelesaikan pengambilalihan Alphawave Semi, yang membawa masuk teknologi sambungan berwayar berkelajuan tinggi yang menurutnya melengkapi pemproses Oryon CPU dan Hexagon NPU. 44

Gabungan langkah ini menunjukkan strategi yang lebih luas: Qualcomm mahu terlibat dalam kedua-dua sisi pengkomputeran dan sambungan AI. Cornelis boleh menambah dimensi rangkaian terbuka kepada strategi tersebut, tetapi kedua-dua syarikat belum mengumumkan platform lengkap yang diintegrasikan bersama.

Belum menumbangkan Nvidia

Cornelis memasuki kawasan yang sudah dikuasai Nvidia melalui ekosistem pemecut, rangkaian dan perisian yang sangat bersepadu. Tarikan Active Compute Fabric ialah sifat modularnya: rangkaian yang boleh menyumbang pengkomputeran dan menyokong perkakasan heterogen, tanpa semestinya mengikat pembeli kepada satu fabrik proprietari.

Cornelis mengumpulkan AS$205 juta bagi memajukan produk scale-up dan scale-out, pembuatan serta pelaksanaan pelanggan. Dana itu memberi syarikat lebih sumber untuk melaksanakan rancangannya. 57

Tetapi pembiayaan dan pengumuman seni bina belum membuktikan kesetaraan pasaran. Kes Cornelis dan Qualcomm bergantung pada penghantaran CN6000 dan CN7000, sokongan perisian, kesalingoperasian, bekalan dan hasil yang boleh diulang dalam penggunaan sebenar. Buat masa ini, kerjasama ini lebih tepat dilihat sebagai pertaruhan bahawa rangkaian yang lebih pintar boleh meningkatkan penggunaan infrastruktur AI—dan bahawa pelanggan akan menghargai pilihan terbuka selain prestasi puncak semata-mata.