Idea di sebalik platform ini adalah untuk menghubungkan keseluruhan kitaran hayat AI—daripada penyimpanan data mentah kepada penggunaan model dan ejen AI—di dalam satu timbunan bersepadu. Huawei berpendapat bahawa infrastruktur yang berpecah-belah memperlahankan penggunaan AI, jadi syarikat itu mereka bentuk sistem di mana saluran paip data, infrastruktur inferens, dan lapisan orkestrasi disepadukan rapat.

Seni Bina Lima Lapisan

Huawei menggambarkan platform ini sebagai timbunan lima lapisan, setiap lapisan menyokong bahagian saluran paip AI perusahaan yang berbeza.

1. Lapisan Storan

Asasnya ialah OceanStor Pacific, platform storan teragih berskala meluas Huawei yang direka untuk menyimpan set data AI yang besar dan embeddings vektor. Sistem ini dioptimumkan untuk kapasiti ketumpatan tinggi dan pemprosesan data berskala besar yang tipikal dalam persekitaran latihan dan inferens AI.

Huawei melaporkan bahawa OceanStor Pacific boleh mencapai sehingga 11 petabait storan dalam casis 2U, bertujuan untuk memberikan ketumpatan tinggi sambil menurunkan jumlah kos pemilikan untuk pusat data AI yang besar.

2. Lapisan Pengurusan Data

Di atas storan terletak DME Omni-Dataverse, yang bertindak sebagai platform pengurusan data bersatu. Ia mengagregat dan mengurus data merentas persekitaran, membolehkan:

• Pengambilan data multimodal
• Pengurusan data merentas tapak
• Keterlihatan dan kawalan data global
• Pengambilan semula pantas daripada set data vektor yang sangat besar

Menurut Huawei dan laporan berkaitan, platform ini boleh melakukan pengambilan semula peringkat saat merentasi ratusan bilion vektor, membolehkan model AI mengakses pangkalan pengetahuan dan embeddings pada skala.

3. Lapisan Penggunaan Model dan Inferens

Lapisan seterusnya memberi tumpuan kepada penggunaan dan menjalankan model AI dengan cekap.

Teknologi utama termasuk:

• Context Memory Storage (CMS) – seni bina memori yang direka untuk kelompok inferens besar
• ModelEngine – persekitaran masa jalan Huawei untuk menggunakan dan mengurus model AI

CMS menyokong persekitaran pengkomputeran heterogen dan boleh mengumpulkan sumber memori KV-cache yang besar, membantu mempercepatkan beban kerja inferens. Huawei mendakwa seni bina ini dapat mengurangkan kependaman dengan ketara untuk menjana token pertama semasa inferens.

ModelEngine, sementara itu, menyediakan keupayaan gerbang model dan alat untuk penggunaan pantas model baharu dengan konfigurasi minimum.

4. Lapisan Orkestrasi Ejen AI

Huawei juga memperkenalkan Nexent, platform ejen AI perusahaan yang berfungsi dengan ModelEngine untuk mengatur ejen AI merentas aliran kerja perniagaan.

Matlamatnya adalah untuk membolehkan organisasi menghubungkan model AI terus kepada tugas operasi—seperti automasi, sokongan keputusan, atau interaksi pelanggan—melalui sistem ejen yang menyelaraskan pelbagai model dan alat.

Dalam seni bina Huawei, lapisan ini mengubah model yang digunakan menjadi ejen AI perusahaan yang praktikal yang boleh berinteraksi dengan data, aplikasi, dan pengguna.

5. Lapisan Daya Tahan Data

Lapisan terakhir memberi tumpuan kepada keselamatan, kebolehpercayaan, dan perlindungan data. Huawei menggambarkan ini sebagai rangka kerja daya tahan hujung ke hujung yang melindungi data dan infrastruktur AI daripada kegagalan dan serangan siber.

Keupayaan yang diserlahkan dalam liputan termasuk:

• Snapshot dan salinan sandaran tidak boleh ubah
• Perlindungan data hujung ke hujung
• Alat pemulihan bencana dan daya tahan

Ciri-ciri ini bertujuan untuk mempertahankan daripada ancaman seperti serangan ransomware dan risiko integriti data lain yang boleh mengganggu operasi AI. Beberapa laporan juga mengaitkan lapisan daya tahan dengan perlindungan yang lebih luas terhadap ancaman kualiti data dalam saluran paip AI, walaupun butiran teknikal khusus adalah terhad.

Tuntutan Prestasi dan Kecekapan

Huawei membentangkan platform ini sebagai cara untuk mempercepatkan penggunaan AI perusahaan dan meningkatkan prestasi inferens.

Contoh yang dipetik dalam laporan termasuk:

• Sehingga 10× penjanaan token yang lebih pantas dalam beberapa senario inferens didayakan oleh CMS dan pengoptimuman pengurusan memori.
• Penggunaan aplikasi AI dikurangkan daripada minggu kepada hari berkat orkestrasi bersepadu dan alat platform.
• Pecutan inferens melalui teknik seperti pengoptimuman memori KV-cache dan pengurusan cache bersatu.

Seperti kebanyakan penanda aras vendor, angka ini mencerminkan ujian dalaman Huawei atau beban kerja khusus dan bukannya hasil prestasi sejagat.

Penggunaan Awal Perusahaan

Huawei juga menyerlahkan penggunaan awal infrastrukturnya dalam persekitaran perusahaan.

Sebagai contoh, peruncit Perancis Auchan telah menggunakan perkakasan Huawei dan kelompok infrastruktur pusat data di tiga pusat data di Perancis sebagai sebahagian daripada usaha pemodenan.

Walaupun laporan mengesahkan penggunaan infrastruktur Huawei, sumber yang tersedia secara umum tidak mengaitkan pengurangan kos awan Auchan secara langsung kepada platform Huawei. Bukti sebaliknya menunjukkan pemodenan yang lebih luas pada persekitaran IT peruncit itu, yang mungkin melibatkan pelbagai teknologi dan pembekal awan.

Mengapa Huawei Membina Infrastruktur AI Lengkap

Pengumuman ini mencerminkan peralihan industri yang lebih luas ke arah infrastruktur AI bersepadu secara menegak. Daripada alat berasingan untuk storan, penggunaan model, dan orkestrasi, vendor semakin membungkusnya ke dalam platform bersatu yang direka untuk:

• Kelompok inferens AI berskala besar
• Ejen AI perusahaan
• Saluran paip AI berpusatkan data

Pendekatan Huawei memberi tumpuan berat kepada infrastruktur data—menganggap storan data, pengambilan semula vektor, caching memori, dan orkestrasi sebagai elemen teras prestasi AI dan bukannya komponen sekunder.

Jika perusahaan menggunakan seni bina ini secara meluas, platform itu boleh berfungsi sebagai tulang belakang operasi untuk pusat data dipacu AI, menghubungkan data mentah, model AI, dan sistem ejen dalam satu timbunan.

Idea di sebalik platform ini adalah untuk menghubungkan keseluruhan kitaran hayat AI—daripada penyimpanan data mentah kepada penggunaan model dan ejen AI—di dalam satu timbunan bersepadu. Huawei berpendapat bahawa infrastruktur yang berpecah-belah memperlahankan penggunaan AI, jadi syarikat itu mereka bentuk sistem di mana saluran paip data, infrastruktur inferens, dan lapisan orkestrasi disepadukan rapat.

Seni Bina Lima Lapisan

Huawei menggambarkan platform ini sebagai timbunan lima lapisan, setiap lapisan menyokong bahagian saluran paip AI perusahaan yang berbeza.

1. Lapisan Storan

Asasnya ialah OceanStor Pacific, platform storan teragih berskala meluas Huawei yang direka untuk menyimpan set data AI yang besar dan embeddings vektor. Sistem ini dioptimumkan untuk kapasiti ketumpatan tinggi dan pemprosesan data berskala besar yang tipikal dalam persekitaran latihan dan inferens AI.

Huawei melaporkan bahawa OceanStor Pacific boleh mencapai sehingga 11 petabait storan dalam casis 2U, bertujuan untuk memberikan ketumpatan tinggi sambil menurunkan jumlah kos pemilikan untuk pusat data AI yang besar.

2. Lapisan Pengurusan Data

Di atas storan terletak DME Omni-Dataverse, yang bertindak sebagai platform pengurusan data bersatu. Ia mengagregat dan mengurus data merentas persekitaran, membolehkan:

• Pengambilan data multimodal
• Pengurusan data merentas tapak
• Keterlihatan dan kawalan data global
• Pengambilan semula pantas daripada set data vektor yang sangat besar

Menurut Huawei dan laporan berkaitan, platform ini boleh melakukan pengambilan semula peringkat saat merentasi ratusan bilion vektor, membolehkan model AI mengakses pangkalan pengetahuan dan embeddings pada skala.

3. Lapisan Penggunaan Model dan Inferens

Lapisan seterusnya memberi tumpuan kepada penggunaan dan menjalankan model AI dengan cekap.

Teknologi utama termasuk:

• Context Memory Storage (CMS) – seni bina memori yang direka untuk kelompok inferens besar
• ModelEngine – persekitaran masa jalan Huawei untuk menggunakan dan mengurus model AI

CMS menyokong persekitaran pengkomputeran heterogen dan boleh mengumpulkan sumber memori KV-cache yang besar, membantu mempercepatkan beban kerja inferens. Huawei mendakwa seni bina ini dapat mengurangkan kependaman dengan ketara untuk menjana token pertama semasa inferens.

ModelEngine, sementara itu, menyediakan keupayaan gerbang model dan alat untuk penggunaan pantas model baharu dengan konfigurasi minimum.

4. Lapisan Orkestrasi Ejen AI

Huawei juga memperkenalkan Nexent, platform ejen AI perusahaan yang berfungsi dengan ModelEngine untuk mengatur ejen AI merentas aliran kerja perniagaan.

Matlamatnya adalah untuk membolehkan organisasi menghubungkan model AI terus kepada tugas operasi—seperti automasi, sokongan keputusan, atau interaksi pelanggan—melalui sistem ejen yang menyelaraskan pelbagai model dan alat.

Dalam seni bina Huawei, lapisan ini mengubah model yang digunakan menjadi ejen AI perusahaan yang praktikal yang boleh berinteraksi dengan data, aplikasi, dan pengguna.

5. Lapisan Daya Tahan Data

Lapisan terakhir memberi tumpuan kepada keselamatan, kebolehpercayaan, dan perlindungan data. Huawei menggambarkan ini sebagai rangka kerja daya tahan hujung ke hujung yang melindungi data dan infrastruktur AI daripada kegagalan dan serangan siber.

Keupayaan yang diserlahkan dalam liputan termasuk:

• Snapshot dan salinan sandaran tidak boleh ubah
• Perlindungan data hujung ke hujung
• Alat pemulihan bencana dan daya tahan

Ciri-ciri ini bertujuan untuk mempertahankan daripada ancaman seperti serangan ransomware dan risiko integriti data lain yang boleh mengganggu operasi AI. Beberapa laporan juga mengaitkan lapisan daya tahan dengan perlindungan yang lebih luas terhadap ancaman kualiti data dalam saluran paip AI, walaupun butiran teknikal khusus adalah terhad.

Tuntutan Prestasi dan Kecekapan

Huawei membentangkan platform ini sebagai cara untuk mempercepatkan penggunaan AI perusahaan dan meningkatkan prestasi inferens.

Contoh yang dipetik dalam laporan termasuk:

• Sehingga 10× penjanaan token yang lebih pantas dalam beberapa senario inferens didayakan oleh CMS dan pengoptimuman pengurusan memori.
• Penggunaan aplikasi AI dikurangkan daripada minggu kepada hari berkat orkestrasi bersepadu dan alat platform.
• Pecutan inferens melalui teknik seperti pengoptimuman memori KV-cache dan pengurusan cache bersatu.

Seperti kebanyakan penanda aras vendor, angka ini mencerminkan ujian dalaman Huawei atau beban kerja khusus dan bukannya hasil prestasi sejagat.

Penggunaan Awal Perusahaan

Huawei juga menyerlahkan penggunaan awal infrastrukturnya dalam persekitaran perusahaan.

Sebagai contoh, peruncit Perancis Auchan telah menggunakan perkakasan Huawei dan kelompok infrastruktur pusat data di tiga pusat data di Perancis sebagai sebahagian daripada usaha pemodenan.

Walaupun laporan mengesahkan penggunaan infrastruktur Huawei, sumber yang tersedia secara umum tidak mengaitkan pengurangan kos awan Auchan secara langsung kepada platform Huawei. Bukti sebaliknya menunjukkan pemodenan yang lebih luas pada persekitaran IT peruncit itu, yang mungkin melibatkan pelbagai teknologi dan pembekal awan.

Mengapa Huawei Membina Infrastruktur AI Lengkap

Pengumuman ini mencerminkan peralihan industri yang lebih luas ke arah infrastruktur AI bersepadu secara menegak. Daripada alat berasingan untuk storan, penggunaan model, dan orkestrasi, vendor semakin membungkusnya ke dalam platform bersatu yang direka untuk:

• Kelompok inferens AI berskala besar
• Ejen AI perusahaan
• Saluran paip AI berpusatkan data

Pendekatan Huawei memberi tumpuan berat kepada infrastruktur data—menganggap storan data, pengambilan semula vektor, caching memori, dan orkestrasi sebagai elemen teras prestasi AI dan bukannya komponen sekunder.

Jika perusahaan menggunakan seni bina ini secara meluas, platform itu boleh berfungsi sebagai tulang belakang operasi untuk pusat data dipacu AI, menghubungkan data mentah, model AI, dan sistem ejen dalam satu timbunan.