HP, Red Hat dan NVIDIA Rancang Platform AI Edge Perusahaan Berasaskan ZGX Fury

HP, Red Hat dan NVIDIA mengumumkan rancangan membangunkan platform AI terbuka bertaraf perusahaan untuk membawa seni bina AI pusat data ke persekitaran edge. Matlamatnya ialah menjalankan inferens AI pengeluaran—iaitu proses menggunakan model yang telah dilatih untuk menghasilkan jawapan atau ramalan—lebih hampir dengan pengguna, aplikasi, mesin dan data. 213

Teras platform: HP ZGX Fury dengan NVIDIA GB300

Perkakasan utama bagi tawaran ini ialah HP ZGX Fury, sebuah stesen AI yang menggunakan NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip. Menurut HP, sistem itu direka untuk menyediakan sehingga 20 PFLOPS prestasi AI FP4 bagi beban kerja inferens setempat. 14

Namun, pengumuman ini bukan sekadar pelancaran sebuah stesen kerja. HP meletakkan gabungan perkakasan dan perisian tersebut sebagai platform perusahaan untuk menjalankan serta mengorkestrakan beberapa beban kerja AI di luar pusat data berpusat. Ia direka bagi penggunaan setempat, dalam awan, atau gabungan kedua-duanya. 15

Peranan Red Hat AI Factory with NVIDIA

Red Hat AI Factory with NVIDIA menyediakan lapisan perisian dan operasi untuk persekitaran awan hibrid. Red Hat menyifatkannya sebagai tawaran AI perusahaan yang dibangunkan serta disokong bersama, menggabungkan platform awan hibrid terbuka, keupayaan kejuruteraan AI dan operasi perusahaan Red Hat dengan perisian AI, model, mikrosistem perkhidmatan, rangkaian serta infrastruktur dipercepat NVIDIA. 12

Dalam pelaksanaan yang dicadangkan HP, lapisan ini bertujuan membantu organisasi menggunakan dan mengurus model serta aplikasi AI di lokasi edge, pusat data dan persekitaran awan. Platform itu juga digambarkan sebagai terbuka dan tervirtual, dengan pengasingan beban kerja serta kawalan operasi supaya beberapa beban kerja AI boleh dijalankan pada sistem yang sama tetapi kekal dipisahkan. 813

Mengapa inferens perlu lebih dekat dengan operasi?

Pilihan reka bentuk utama di sini ialah inferens setempat atau edge: permintaan kepada model diproses berhampiran tempat data dijana atau digunakan, bukan bergantung sepenuhnya pada infrastruktur awan dari jauh. HP menyatakan kependaman, privasi, kedaulatan data dan sambungan rangkaian sebagai antara sebab organisasi mungkin memerlukan pilihan ini. 8

Pendekatan itu berpotensi relevan apabila data operasi adalah sensitif, sambungan terhad, atau respons perlu berlaku hampir serta-merta di dekat proses fizikal. HP mengetengahkan beberapa senario berikut:

• Pembuatan, untuk menjalankan model berhampiran mesin dan data pengeluaran.
• Pembangunan perisian, termasuk inferens peringkat jabatan atau di premis serta aliran kerja pembangunan yang dibantu AI.
• Penjagaan kesihatan, apabila data sensitif mungkin perlu kekal lebih dekat dengan sumbernya.
• Kerajaan, termasuk persekitaran terasing atau air-gapped yang tidak sesuai atau tidak dibenarkan menggunakan sambungan awan. 58

Ini ialah contoh kegunaan yang diketengahkan HP, bukannya jaminan prestasi. Kesesuaian sebenar bergantung pada saiz model, keperluan pengendalian data, reka bentuk rangkaian dan alat operasi sesebuah organisasi.

Ketersediaan: apa yang sudah ada dan apa yang masih dirancang

HP menyatakan bahawa ZGX Fury sudah boleh ditempah dan diperakui untuk Red Hat Enterprise Linux. 48 Namun, penyelesaian lebih luas yang menggabungkan ZGX Fury dengan Red Hat AI Factory with NVIDIA masih diumumkan sebagai platform yang dirancang, bukan perkhidmatan bersepadu yang tersedia secara umum sepenuhnya. 12

HP turut berkata pelanggan akan dapat menilai gabungan tersebut dalam persekitaran sandbox pada peranti HP yang menjalankan Red Hat AI Factory with NVIDIA sebelum memindahkan kes penggunaan ke persekitaran pengeluaran. 2 Tiada tarikh pelancaran khusus, syarat kelayakan atau konfigurasi teknikal bagi persekitaran penilaian itu dinyatakan dalam pengumuman.

Intinya untuk organisasi

Pengumuman HP ini ialah usaha membungkus perkakasan NVIDIA berkuasa tinggi di premis bersama timbunan perisian AI hibrid yang diurus oleh Red Hat. Tarikan utamanya bukan angka 20 PFLOPS FP4 semata-mata, tetapi kemungkinan untuk menjalankan AI pengeluaran berhampiran data operasi sambil mengekalkan pendekatan penggunaan dan pengurusan yang konsisten merentasi edge, pusat data serta awan. 11213

Bagi organisasi yang mahu menilainya, perbezaan penting ialah antara perkara yang tersedia sekarang—perkakasan ZGX Fury dan pensijilan Red Hat Enterprise Linux—dengan platform bersepadu serta laluan penilaian sandbox yang masih dirancang. 24