AMD MI455X và Helios: Bên trong GPU HBM4 432 GB và hệ thống AI 72 chip

AMD đang đưa cuộc đua chip AI lên một cấp độ khác: từ một bộ tăng tốc riêng lẻ sang cả hệ thống rack. Tại Hot Chips 2026, hãng cho thấy Instinct MI455X là khối tính toán trung tâm của Helios — nền tảng kết hợp GPU, CPU máy chủ, kết nối mạng và phần mềm ROCm trong một rack AI quy mô lớn. Điểm nhấn đáng chú ý nhất là bộ nhớ: mỗi MI455X có 432 GB HBM4, còn một rack Helios 72 GPU đạt tổng cộng 31 TB HBM4. 2310

MI455X: GPU chiplet giải bài toán thiếu bộ nhớ AI

MI455X sử dụng kiến trúc AMD CDNA 5. Cụm tính toán gồm 8 Accelerator Complex Die (XCD) sản xuất trên tiến trình TSMC N2; các die phụ trách fabric, cache và I/O sử dụng tiến trình TSMC N3P. AMD đóng gói toàn bộ cùng 12 stack HBM4 trong công nghệ CoWoS-L của TSMC. 1721

Cách phân chia này cho phép AMD dành tiến trình tiên tiến nhất cho các die tính toán, đồng thời tách phần fabric, cache và I/O thành những chiplet riêng. Vì vậy, MI455X không đơn giản là một GPU nguyên khối phóng lớn, mà là một hệ thống nhiều die được thiết kế xoay quanh băng thông, hiệu suất sản xuất và khả năng kết nối ở cấp rack.

Kiến trúc lõi và mô hình thực thi

Theo thông số AMD công bố, MI455X có 256 Work Group Processor (WGP) và 192 MB bộ nhớ đệm L2 toàn cục. CDNA 5 cũng bổ sung khả năng hỗ trợ matrix core với thực thi Wave32 nguyên bản, bên cạnh các định dạng số chính xác thấp phổ biến trong những workload AI hiện đại. 320

Tài liệu về Hot Chips được sử dụng trong phân tích này còn đề cập một đường xử lý hàm siêu việt có độ trễ thấp hơn, dành cho các phép toán như hàm mũ và logarit. Đây là những phép toán xuất hiện trong attention, normalization và activation của mạng nơ-ron. Tuy nhiên, các nguồn hiện có không đưa ra con số định lượng về mức giảm độ trễ, nên không nên xem đây là một tuyên bố hiệu năng đã được đo kiểm.

Thông số MI455X

• Kiến trúc tính toán: AMD CDNA 5
• Chiplet tính toán: 8 XCD trên TSMC N2 17
• Fabric/cache và I/O: các chiplet trên tiến trình N3P 17
• Đóng gói: TSMC CoWoS-L 21
• Work Group Processor: 256 3
• Bộ nhớ đệm L2 toàn cục: 192 MB 3
• HBM4: 12 stack, tổng dung lượng 432 GB 317
• Băng thông bộ nhớ tối đa: 23,3 TB/s 23
• Hiệu năng OCP MXFP4 tối đa: 40,26 PFLOPS, AMD niêm yết xấp xỉ 40,3 PFLOPS 319
• Hiệu năng MXFP6 tối đa: 20,13 PFLOPS 319
• Hiệu năng MXFP8 tối đa: 20,13 PFLOPS 319

Đây đều là các con số lý thuyết tối đa, không phải thông lượng chắc chắn trong ứng dụng thực tế. Kết quả thực tế còn phụ thuộc vào độ chính xác sử dụng, độ thưa của mô hình, kiến trúc workload, cách truy cập bộ nhớ, mức tối ưu của phần mềm và khả năng giữ cho toàn bộ tài nguyên tính toán hoạt động liên tục.

Vì sao 432 GB HBM4 quan trọng?

Thông số có ý nghĩa thực tế nhất của MI455X có thể không phải là hiệu năng tính toán, mà là dung lượng bộ nhớ. 12 stack HBM4 cung cấp 432 GB cho mỗi GPU, với băng thông tối đa 23,3 TB/s. 23

Dung lượng này cho phép một GPU chứa nhiều trọng số mô hình, activation và trạng thái suy luận hơn trước khi phải phân phối dữ liệu sang các bộ tăng tốc khác. Lợi ích đặc biệt rõ trong suy luận AI: khi cửa sổ ngữ cảnh mở rộng và số lượng yêu cầu đồng thời tăng, bộ nhớ dành cho KV cache có thể trở thành nút thắt lớn.

CDNA 5 hỗ trợ nhiều định dạng dữ liệu, gồm OCP MXFP4, MXFP6, MXFP8, OCP FP8, BF16, FP16, TF32, FP32 và FP64. Các định dạng chính xác thấp hướng đến huấn luyện và suy luận AI hiệu quả hơn, trong khi FP32 và FP64 giúp kiến trúc phù hợp với HPC và những workload hỗn hợp. 1820

Helios biến MI455X thành một hệ thống cấp rack

Helios tổ chức các GPU trong 18 khay tính toán tương thích với định hướng Open Rack Wide. Mỗi khay chứa 4 MI455X, nâng tổng số lên 72 GPU. AMD công bố các mức tối đa ở cấp rack gồm:

• 2,9 exaflops tính toán FP4
• 1,4 exaflops tính toán FP8
• 31 TB dung lượng HBM4 tổng cộng
• 1,7 PB/s băng thông HBM tổng cộng
• 260 TB/s băng thông scale-up
• 43 TB/s băng thông scale-out 21051

Giá trị của Helios không chỉ nằm ở phép nhân thông số của 72 GPU. Hệ thống được thiết kế như một miền scale-up duy nhất, khiến giao tiếp giữa các bộ tăng tốc trở thành một phần cốt lõi của kiến trúc, thay vì để các máy chủ riêng lẻ tự xử lý thông qua những kết nối bên ngoài. Thiết kế công bố của AMD sử dụng UALink qua Ethernet cho kết nối scale-up và mạng dựa trên Ethernet cho scale-out. 1012

CPU, khay tính toán và mạng

Mỗi khay bốn GPU được ghép với một CPU máy chủ AMD EPYC “Venice”. Các bài phân tích kiến trúc Hot Chips xác định nền tảng máy chủ là EPYC 9006 trên socket SP7; AMD mô tả Helios là hệ thống kết hợp CPU EPYC 9006 thế hệ thứ sáu với GPU MI455X và mạng Pensando. 71014

NIC AI Pensando Vulcano cung cấp kết nối Ethernet 800 Gb/s cho lưu lượng scale-out. Tài liệu Helios của AMD nêu băng thông scale-out lên tới 2,4 Tb/s cho mỗi GPU trong thiết kế dùng Vulcano. 47

Sự phân công này rất quan trọng: GPU đảm nhiệm tính toán ma trận và vector, EPYC xử lý các tác vụ máy chủ và mặt phẳng điều khiển, còn fabric mạng vận chuyển dữ liệu bên trong cũng như bên ngoài rack. Helios vì thế là một hệ thống được đồng thiết kế, không phải tập hợp của những card tăng tốc giống hệt nhau.

Open Rack Wide và chiến lược ROCm

AMD đang căn chỉnh Helios theo hướng Open Rack Wide của Meta và các tiêu chuẩn rack rộng hơn của Open Compute Project (OCP). Hãng cũng sử dụng UALink và các fabric dựa trên Ethernet, thay vì xây dựng một hệ thống rack đóng hoàn toàn theo chuẩn độc quyền. 4749

Cách tiếp cận dựa trên tiêu chuẩn là một phần trong lập luận rộng hơn của AMD: khách hàng có thể xây dựng hệ thống AI lớn từ các thành phần có khả năng tương tác với nhau. Theo định vị của AMD, nền tảng gồm:

• Instinct MI455X: tăng tốc tính toán ma trận và vector
• EPYC Venice: tính toán máy chủ và mặt phẳng điều khiển
• Pensando Vulcano: kết nối mạng scale-out
• UALink qua Ethernet: kết nối scale-up
• ROCm: môi trường phần mềm nhằm tạo một lựa chọn thay thế cho hạ tầng phụ thuộc CUDA 1018

ROCm không tự động loại bỏ toàn bộ công việc kỹ thuật khi chuyển phần mềm giữa các nền tảng GPU. Khả năng hỗ trợ kernel, thư viện, trình biên dịch, framework mô hình và công cụ vận hành thực tế vẫn quyết định mức độ dễ dàng của quá trình chuyển đổi. Điểm chiến lược nằm ở chỗ AMD muốn cung cấp cả nền tảng phần cứng lẫn phần mềm để triển khai một cụm AI lớn, thay vì chỉ cạnh tranh bằng thông số của bộ tăng tốc.

Thời điểm triển khai: mục tiêu sản xuất chưa đồng nghĩa phổ biến rộng rãi

AMD cho biết Helios đã bước vào sản xuất, với các đợt triển khai bắt đầu trong nửa cuối năm 2026. 449 Tuyên bố này mô tả tiến độ sản xuất và lịch triển khai mà AMD đưa ra; không nên hiểu đó là bằng chứng cho thấy nền tảng đã được lắp đặt rộng rãi hoặc mọi cấu hình rack công bố đều đã có sẵn ở quy mô lớn.

Microsoft cũng công bố kế hoạch triển khai Helios trên Azure cho suy luận các mô hình AI tiên phong, qua đó tạo ra một lộ trình triển khai đám mây cụ thể cho nền tảng. 5456 Tuy nhiên, kế hoạch triển khai của khách hàng không đồng nghĩa với kết quả hiệu năng độc lập trong môi trường sản xuất.

Versal Premium Gen 2 mở rộng chiến lược ra ngoài GPU trung tâm dữ liệu

Tại Hot Chips, AMD cũng giới thiệu Versal Premium Gen 2 — dòng SoC thích ứng phục vụ một phân khúc khác. Các thiết bị này hướng đến những ứng dụng nhạy cảm với dữ liệu và độ trễ như physical AI, mạng viễn thông, đo kiểm, video chuyên nghiệp, hàng không vũ trụ, quốc phòng và các hệ thống quan trọng khác. 313638

Các phiên bản Memory-on-Package tích hợp tối đa 32 GB LPDDR5X trực tiếp trong package. AMD nêu băng thông dự kiến lên tới 288 GB/s và tuyên bố có thể giảm tới 60% diện tích bo mạch so với thiết kế dùng bộ nhớ bên ngoài. 3641

Với dòng Versal Premium Gen 2 nói chung, thông số chính thức của AMD xác nhận các giao tiếp PCIe Gen6 và CXL 3.1 dạng hard IP, cùng hỗ trợ bộ nhớ LPDDR5X và DDR5. 374042

Một số bài đưa tin về Hot Chips đề cập các transceiver có khả năng PCIe Gen7 và mật mã hậu lượng tử trong bối cảnh rộng hơn của nền tảng. Tuy nhiên, tài liệu sản phẩm có thẩm quyền được cung cấp ở đây chỉ xác nhận PCIe Gen6, CXL 3.1 và các tính năng bảo mật như PCIe Integrity and Data Encryption; chưa đủ cơ sở để khẳng định PCIe Gen7 hoặc mật mã hậu lượng tử dạng hard IP là thông số xác nhận cho mọi thiết bị Memory-on-Package. 373940

Kết luận: AMD đang bán cả một kiến trúc, không chỉ một GPU

Các con số nổi bật của MI455X — 432 GB HBM4, băng thông 23,3 TB/s và 40,26 PFLOPS MXFP4 — quan trọng vì chúng phục vụ thiết kế hệ thống lớn hơn. Helios đặt 72 bộ tăng tốc vào một rack, tạo ra 31 TB HBM4, hiệu năng AI chính xác thấp ở cấp exaflops, kết nối scale-up băng thông cao, CPU EPYC máy chủ và mạng Pensando.

Cược lớn của AMD vì thế mang tính kiến trúc không kém các con số: làm cho GPU, bộ nhớ, fabric, CPU máy chủ, NIC, khung rack và phần mềm hoạt động như một nền tảng dựa trên tiêu chuẩn mở. Việc Helios có thực sự cạnh tranh trong môi trường sản xuất hay không sẽ còn phụ thuộc vào workload thực tế, độ trưởng thành của ROCm, nguồn cung và quy mô triển khai — chứ không thể được kết luận chỉ từ thông số lý thuyết tối đa.