HP, Red Hat và NVIDIA lên kế hoạch đưa AI doanh nghiệp ra biên với ZGX Fury

HP đã công bố hợp tác với Red Hat và NVIDIA để phát triển một nền tảng AI mở, cấp doanh nghiệp, hướng tới mở rộng kiến trúc AI vốn tập trung ở trung tâm dữ liệu ra các điểm biên. Mục tiêu là đưa suy luận AI trong môi trường vận hành thực tế đến gần hơn với người dùng, ứng dụng, máy móc và dữ liệu. 213

Cấu hình cốt lõi: HP ZGX Fury và NVIDIA GB300

Trung tâm của lớp phần cứng là HP ZGX Fury, máy trạm AI dùng NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip. HP cho biết hệ thống được thiết kế để đạt hiệu năng suy luận AI cục bộ tối đa 20 PFLOPS ở định dạng FP4. 14

Điểm đáng chú ý không chỉ là một máy trạm hiệu năng cao. HP đang định vị tổ hợp phần cứng và phần mềm này như một nền tảng doanh nghiệp có thể chạy và điều phối nhiều khối lượng công việc AI ngoài trung tâm dữ liệu tập trung. Doanh nghiệp được định hướng triển khai AI tại chỗ, trên đám mây hoặc kết hợp cả hai. 15

Red Hat AI Factory đảm nhiệm phần mềm vận hành

Red Hat AI Factory with NVIDIA đóng vai trò lớp phần mềm và vận hành hybrid cloud. Red Hat mô tả đây là giải pháp AI doanh nghiệp được hai bên cùng xây dựng và hỗ trợ, kết hợp nền tảng hybrid cloud mở, năng lực kỹ thuật AI và công cụ vận hành doanh nghiệp của Red Hat với phần mềm AI, mô hình, vi dịch vụ, mạng cùng hạ tầng tăng tốc của NVIDIA. 12

Trong phương án HP đề xuất, lớp này nhằm giúp tổ chức triển khai và quản lý mô hình cũng như ứng dụng AI trên các điểm biên, trung tâm dữ liệu và đám mây. Nền tảng được mô tả là mở và ảo hóa, có cơ chế cô lập khối lượng công việc cùng kiểm soát vận hành, qua đó cho phép chạy nhiều tác vụ AI trên cùng một hệ thống nhưng vẫn duy trì ranh giới tách biệt giữa chúng. 813

Vì sao doanh nghiệp muốn suy luận AI ngay tại chỗ?

Lựa chọn thiết kế chính ở đây là suy luận cục bộ hoặc tại biên: xử lý yêu cầu từ mô hình AI gần nơi dữ liệu được tạo ra hoặc được sử dụng, thay vì phụ thuộc hoàn toàn vào hạ tầng đám mây từ xa. HP nêu các lý do gồm độ trễ, quyền riêng tư, chủ quyền dữ liệu và khả năng kết nối. 8

Cách tiếp cận này đặc biệt phù hợp khi dữ liệu vận hành nhạy cảm, kết nối mạng bị giới hạn hoặc phản hồi AI phải bám sát một quy trình vật lý. HP nêu một số bối cảnh ứng dụng:

• Sản xuất: chạy mô hình gần máy móc và dữ liệu dây chuyền.
• Phát triển phần mềm: suy luận theo cấp phòng ban hoặc tại chỗ, phục vụ quy trình phát triển có AI hỗ trợ.
• Y tế: giữ dữ liệu nhạy cảm gần nguồn phát sinh hơn.
• Cơ quan chính phủ: triển khai trong môi trường cách ly mạng (air-gapped), nơi kết nối đám mây có thể không phù hợp. 58

Đây là các tình huống sử dụng được HP nhấn mạnh, không phải cam kết hiệu năng cho mọi doanh nghiệp. Hiệu quả thực tế sẽ còn phụ thuộc vào quy mô mô hình, yêu cầu xử lý dữ liệu, thiết kế mạng và công cụ vận hành của từng tổ chức.

Đã bán phần cứng, còn nền tảng tích hợp vẫn đang được lên kế hoạch

HP cho biết ZGX Fury đã có thể đặt hàng và đã được chứng nhận cho Red Hat Enterprise Linux. 48 Tuy nhiên, giải pháp kết hợp đầy đủ giữa ZGX Fury và Red Hat AI Factory with NVIDIA hiện được công bố dưới dạng nền tảng dự kiến phát triển, chưa phải dịch vụ tích hợp đã phổ biến rộng rãi. 12

HP cũng nói khách hàng sẽ có thể đánh giá tổ hợp này trong một môi trường sandbox trên thiết bị HP chạy Red Hat AI Factory with NVIDIA, trước khi đưa các trường hợp sử dụng vào sản xuất. 2 Thông báo chưa nêu thời điểm cụ thể, điều kiện tham gia hay cấu hình kỹ thuật của môi trường đánh giá.

Điều doanh nghiệp cần cân nhắc

Thông báo của HP là nỗ lực đóng gói phần cứng NVIDIA đặt tại chỗ với một lớp phần mềm AI hybrid cloud do Red Hat hỗ trợ. Sức hấp dẫn vì vậy không chỉ nằm ở con số 20 PFLOPS FP4, mà là khả năng vận hành AI sản xuất gần dữ liệu nghiệp vụ hơn trong khi vẫn giữ cách triển khai và quản trị tương đối nhất quán từ biên, trung tâm dữ liệu đến đám mây. 11213

Với các tổ chức đang cân nhắc, cần phân biệt rõ phần đã sẵn sàng hiện nay — phần cứng ZGX Fury và chứng nhận Red Hat Enterprise Linux — với nền tảng tích hợp cùng lộ trình thử nghiệm sandbox vẫn mới ở giai đoạn công bố kế hoạch. 24