Vultr đưa siêu rack AMD 72 GPU Helios lên đám mây

Thông số kỹ thuật mỗi rack: 72 GPU, 31 TB HBM4, băng thông 1,67 PB/s

Rack AMD Helios triển khai trên Vultr cung cấp một nền tảng điện toán AI tích hợp, dày đặc với các thông số sau :

• 72 GPU AMD Instinct MI455X dựa trên kiến trúc CDNA thế hệ tiếp theo
• Tối đa 31 TB bộ nhớ HBM4 mỗi rack (mỗi MI455X mang 432 GB HBM4)
• Băng thông bộ nhớ lên tới 1,67 PB/s mỗi rack
• 2,9 exaFLOPS (FP4) cho suy luận và 1,4 exaFLOPS (FP8) cho huấn luyện mỗi rack – tất cả đều là số liệu do AMD công bố, chưa được kiểm chứng độc lập
• 18 CPU AMD EPYC (bộ xử lý "Venice" thế hệ thứ sáu)
• Mạng AMD Pensando được thiết kế cho các cụm AI thông lượng cao, không mất gói tin
• Kết nối nội bộ (Scale-up): 260 TB/s UALink qua Ethernet
• Kết nối mở rộng (Scale-out): 43 TB/s Ethernet theo chuẩn UEC (dựa trên tiêu chuẩn mở)
• Phần mềm ROCm 7
• Tùy chọn làm mát bằng chất lỏng trực tiếp (DLC)

Rack này là một khối rộng gấp đôi, nặng 7.000 pound (khoảng 3.175 kg) và tiêu thụ tới 245 kW .

Tích hợp CPU EPYC 'Venice' và mạng Pensando

Rack Helios tích hợp 18 CPU AMD EPYC "Venice" thế hệ thứ sáu – một CPU cho mỗi bốn GPU trên 18 khay tính toán – được kết nối qua phần cứng mạng AMD Pensando để đảm bảo giao tiếp cụm AI thông lượng cao, không mất gói tin . Cách tiếp cận silicon đồng tối ưu này, kết hợp GPU, CPU, mạng và phần mềm thành một hệ thống tích hợp duy nhất, là nền tảng rack-scale thực sự đầu tiên của AMD và là câu trả lời trực tiếp nhất cho Nvidia Vera Rubin NVL72 .

Lộ trình triển khai: Đặt hàng trước từ Q4 2026, sản xuất từ 2027 đến 2028

• Đặt hàng trước cho dung lượng dành riêng mở từ Q4 năm 2026
• GPU MI455X dự kiến ra mắt trong Q4 năm 2026
• Việc triển khai Helios trên Vultr được lên kế hoạch từ 2027 đến 2028

Các mẫu kỹ thuật và sản phẩm Helios số lượng hạn chế sẽ được giao trong nửa cuối năm 2026. Việc sản xuất hàng loạt và các token AI sản xuất đầu tiên dự kiến không sớm hơn Q2 năm 2027, theo các mốc thời gian trong ngành .

Các tùy chọn triển khai: Bare Metal, Máy chủ ảo hóa và Kubernetes

Vultr cung cấp ba mô hình triển khai cho nền tảng Helios :

• Bare metal – truy cập trực tiếp vào máy chủ GPU vật lý
• Máy chủ ảo hóa – cơ sở hạ tầng đám mây có thể kết hợp qua Vultr Console và API
• Kubernetes – thông qua Vultr Kubernetes Engine (VKE) miễn phí để triển khai và mở rộng quy mô AI gốc đám mây một cách lặp lại

Khách hàng cũng có thể sử dụng Vultr Clusters (tự phục vụ) với bộ lập lịch tác vụ Slurm hoặc Kubernetes và bộ giám sát để theo dõi tình trạng GPU . Vultr đang định vị các hệ thống mới này cho việc huấn luyện mô hình, suy luận, tinh chỉnh và AI tác nhân khi các doanh nghiệp chuyển từ dự án thử nghiệm sang sản xuất .

Động lực đám mây rộng lớn hơn cho AMD Helios

Microsoft Azure

Vào ngày 20 tháng 7 năm 2026 – ba ngày trước thông báo của Vultr – Microsoft thông báo sẽ triển khai giải pháp rack-scale AMD Helios trên quy mô lớn trên Azure cho các tác vụ suy luận AI mô hình tiên tiến, ứng dụng khách hàng và các dịch vụ AI của chính Microsoft . Việc triển khai số lượng lớn được lên kế hoạch vào nửa cuối năm 2026 . Quan hệ đối tác mở rộng bao gồm GPU Instinct, CPU EPYC, mạng Pensando và phần mềm ROCm . Blog chính thức của Microsoft ghi nhận ba họ máy ảo Azure mới: HDv2, HXv2 và ND MI455X v7 .

Các khách hàng lớn khác

• Anthropic công bố quan hệ đối tác chiến lược để triển khai tới 2 gigawatt GPU AMD Instinct MI450 Series trong các hệ thống rack-scale Helios
• Meta và OpenAI cũng được xác nhận là khách hàng của Helios
• TensorWave sẽ vận hành một đám mây AI toàn AMD dựa trên các rack Helios
• Alignment Engine lên kế hoạch triển khai Helios tại một trung tâm dữ liệu ở Ohio, Hoa Kỳ
• Schneider Electric đồng phát triển một thiết kế tham chiếu đã được kiểm chứng cho việc triển khai Helios

HPE

Các bằng chứng hiện có không xác nhận trực tiếp thỏa thuận tháng 12 năm 2025 của HPE hay mốc thời gian sẵn sàng vào năm 2026. Không tìm thấy nguồn tin cụ thể nào cho tuyên bố này.

Bối cảnh cạnh tranh: Chiến lược rack-scale của AMD so với Nvidia

AMD Helios cạnh tranh trực tiếp với Nvidia Vera Rubin NVL72 . Các yếu tố khác biệt chính:

• Dẫn đầu về bộ nhớ: 31 TB HBM4 mỗi rack (72 GPU × 432 GB mỗi GPU) so với Rubin của Nvidia ở mức khoảng 20 TB – lợi thế về dung lượng ~50% mỗi GPU . Băng thông bộ nhớ mỗi rack xấp xỉ 1,67 PB/s .
• Thông số trên giấy so với thực tế: The Register nhận định Helios lớn hơn và nhanh hơn Vera Rubin "trên giấy tờ" nhưng AMD vẫn cần chứng minh hiệu suất trong các triển khai sản xuất thực tế .
• UALink over Ethernet (260 TB/s mở rộng quy mô nội bộ): Giải pháp thay thế tiêu chuẩn mở của AMD cho NVLink độc quyền của Nvidia. UALink được xây dựng như một tiêu chuẩn công nghiệp mở dựa trên Ethernet .
• Ethernet theo chuẩn UEC (43 TB/s mở rộng quy mô): Helios sử dụng Ethernet theo chuẩn Ultra Ethernet Consortium (UEC) cho kết nối mạng mở, tránh InfiniBand độc quyền .
• Định vị tiêu chuẩn mở: AMD đang định vị Helios như một giải pháp thay thế mở, dựa trên tiêu chuẩn cho các hệ thống rack-scale được tích hợp theo chiều dọc của Nvidia, nhằm thu hút các nhà cung cấp dịch vụ đám mây lớn và các doanh nghiệp đang tìm kiếm sự đa dạng về nhà cung cấp .
• Khoảng cách huấn luyện được thừa nhận: Nhiều báo cáo chỉ ra rằng mặc dù Helios dẫn đầu về thông số bộ nhớ và suy luận, nhưng hiệu suất huấn luyện của nó vẫn thua kém các sản phẩm của Nvidia. Tất cả các con số hiện tại đều do nhà sản xuất công bố và chưa được kiểm chứng độc lập .
• Giá bán: Rack Helios được niêm yết ở mức xấp xỉ 5,25 triệu đô la Mỹ mỗi đơn vị .