Qualcomm và Cornelis muốn mạng AI làm nhiều hơn việc chuyển dữ liệu

Các cụm AI không chỉ cần GPU hay bộ tăng tốc nhanh hơn. Chúng còn cần trao đổi dữ liệu nhanh, ổn định và có thể dự đoán được. Hợp tác mới công bố giữa Qualcomm và Cornelis Networks nhắm đúng vào nút thắt này: nâng vai trò của mạng trong hạ tầng AI hiệu quả hơn, nhất là khi các cụm phục vụ suy luận và hệ thống phần cứng hỗn hợp ngày càng mở rộng.

Điểm cần phân biệt: đây là hợp tác chiến lược và cùng xuất hiện tại AI Infra Summit, không phải công bố một sản phẩm Qualcomm–Cornelis tích hợp đã được giao hàng. Qualcomm cho biết tầm nhìn của Cornelis về một fabric mở, có thể lập trình phù hợp với mục tiêu cải thiện mức sử dụng tài nguyên và hiệu quả kinh tế của AI. 57

Ý tưởng cốt lõi: biến mạng thành một lớp tính toán chủ động

Cornelis gọi kiến trúc của mình là Active Compute Fabric. Thay vì để switch và card giao tiếp mạng chỉ chuyển tiếp gói dữ liệu, kiến trúc này đưa năng lực tính toán có thể lập trình và tăng tốc vào chính fabric mạng. Theo Cornelis, một phần việc xử lý giao tiếp và các phép toán tập thể có thể diễn ra khi dữ liệu đi qua mạng, thay vì dồn toàn bộ lên máy chủ hoặc bộ tăng tốc AI. 515

Kiến trúc này bao phủ hai kiểu kết nối liên quan nhưng khác nhau:

• Scale-out: kết nối các máy chủ hoặc nút trong một cụm.
• Scale-up: kết nối chặt hơn các bộ tăng tốc bên trong hệ thống quy mô rack.

Mục tiêu là giảm khả năng GPU hoặc bộ tăng tốc đắt tiền phải ngồi chờ dữ liệu đầu vào. Điều này đặc biệt quan trọng với khối lượng công việc AI phân tán, nơi giao tiếp tập thể và lưu lượng nhiều-đến-một có thể trở thành điểm nghẽn. 121

Truyền tải không mất dữ liệu và tính toán trong mạng giúp gì?

Active Compute Fabric kết hợp ba thành phần: truyền tải không mất dữ liệu, tăng tốc trong fabric và tính toán lập trình được. 5

Với nền tảng CN5000 dựa trên Omni-Path, Cornelis mô tả cơ chế truyền tải không mất dữ liệu dựa trên tín dụng, định tuyến thích ứng ở mức chi tiết, kiểm soát luồng nhận biết tình trạng nhiều nguồn cùng dồn tới một đích (incast) và phát lại ở cấp liên kết. Nói đơn giản, các cơ chế này được thiết kế để tránh tràn bộ đệm và ngăn tắc nghẽn làm gián đoạn việc chuyển dữ liệu. 18

Lợi ích kỳ vọng khá trực diện: nếu quá trình giao tiếp hoàn thành tin cậy hơn và tốn ít tài nguyên ở phía bộ tăng tốc hơn, nhiều thời gian của GPU sẽ được dành cho việc chạy mô hình. Điều đó có thể cải thiện hiệu quả kinh tế của việc huấn luyện hoặc phục vụ mô hình, bởi lớp mạng giúp bảo vệ mức sử dụng của phần cứng tính toán vốn đắt hơn nhiều.

Tuy vậy, đây là một luận điểm thiết kế, chưa phải kết quả benchmark đã được xác lập rộng rãi. Cornelis có công bố các so sánh hiệu năng và tuyên bố về mức sử dụng, nhưng đơn vị vận hành cần đánh giá chúng dựa trên mô hình, kiểu giao tiếp tập thể, ngăn xếp phần mềm và topo cụm của chính mình. 15

Lộ trình sản phẩm hiện nói gì?

Các sản phẩm của Cornelis không cùng mức độ trưởng thành:

• CN5000 là fabric scale-out Omni-Path 400 Gb/s đầu-cuối đang được giao hàng, gồm SuperNIC, switch, phần mềm và cáp. Cornelis định vị đây là hệ thống không mất dữ liệu, có kiểm soát tắc nghẽn cho AI và HPC (tính toán hiệu năng cao). 17
• CN6000 là nền tảng mạng thông minh thế hệ kế tiếp dành cho huấn luyện AI, suy luận AI và HPC. Các thông tin công bố cho thấy nền tảng này bổ sung hỗ trợ Ethernet và đang được chuẩn bị để mở rộng khả năng cung ứng. 68
• CN7000 là nền tảng scale-up gốc đang nằm trong kế hoạch. Đây là mảnh ghép gần nhất với một lựa chọn thay thế trực tiếp cho liên kết scale-up kiểu NVLink ở cấp rack, nhưng chưa phải sản phẩm thay thế công nghệ scale-up của Nvidia đã được triển khai rộng rãi. 219

Sự khác biệt này rất quan trọng: Cornelis đã có sản phẩm scale-out thương mại, nhưng đề xuất scale-up đầy đủ nhất của hãng vẫn hướng về tương lai.

Vì sao tính mở và phần cứng dị thể là một phần của lời chào hàng?

Cornelis định vị Active Compute Fabric là kiến trúc mở cho cả môi trường scale-up lẫn scale-out. Lộ trình của hãng đề cập tới Ethernet, Ultra Ethernet, RoCE và các công nghệ liên quan UALink, thay vì một mạng bị buộc vào nhà cung cấp bộ tăng tốc duy nhất. 1119

Điều này hấp dẫn với các đơn vị vận hành muốn linh hoạt: về nguyên tắc, họ có thể ghép fabric với GPU, CPU, bộ tăng tốc tùy biến và linh kiện từ nhiều nguồn khác nhau, thay vì chọn một ngăn xếp tính toán–mạng tích hợp dọc duy nhất. Cornelis cũng cho biết CN5000 có thể tương tác với bộ tăng tốc từ AMD, Intel, Nvidia và các hãng khác. 23

Đổi lại, năng lực thực thi là yếu tố quyết định. Hạ tầng mở, dị thể phải chứng minh được khả năng tương tác ổn định, nguồn cung phần cứng và phần mềm trưởng thành trên toàn hệ thống — không chỉ dừng ở tương thích giữa từng linh kiện.

Vị trí trong chiến lược trung tâm dữ liệu của Qualcomm

Quan hệ với Cornelis bổ sung cho nỗ lực lớn hơn của Qualcomm nhằm trở thành nhà cung cấp cả năng lực tính toán lẫn kết nối cho trung tâm dữ liệu AI.

Qualcomm và Amazon đã công bố hợp tác nhiều thế hệ về silicon tùy biến cho suy luận AI quy mô lớn cùng kết nối quang lên tới 1,6 Tb/s. Reuters đưa tin Amazon có thể mua tối đa 60 tỷ USD chip trung tâm dữ liệu AI và sản phẩm liên quan của Qualcomm theo thỏa thuận dài hạn, tùy thuộc các điều khoản của thỏa thuận. 3324

Qualcomm cũng đã hoàn tất mua lại Alphawave Semi, qua đó bổ sung công nghệ kết nối có dây tốc độ cao mà hãng cho biết sẽ bổ trợ cho CPU Oryon và NPU Hexagon của mình. 44

Nhìn chung, các động thái này cho thấy Qualcomm muốn hiện diện ở cả hai mảnh ghép: tính toán và kết nối trong hạ tầng AI. Cornelis bổ sung một chiều cạnh mạng mở có thể có cho chiến lược đó, nhưng hai công ty chưa công bố một nền tảng tích hợp hoàn chỉnh.

Thực tế cạnh tranh: một hướng đi đáng chú ý, chưa phải sự thay thế

Cornelis đang bước vào lĩnh vực nơi Nvidia đã có sản phẩm hiện hữu cùng hệ sinh thái bộ tăng tốc, mạng và phần mềm tích hợp sâu. Sức hút của Active Compute Fabric nằm ở tính mô-đun: mạng được thiết kế để đóng góp năng lực xử lý và hoạt động với phần cứng dị thể, thay vì khóa khách hàng vào một fabric độc quyền.

Cornelis đã huy động 205 triệu USD để phát triển sản phẩm scale-up, scale-out, năng lực sản xuất và triển khai, qua đó có thêm nguồn lực theo đuổi tham vọng này. 57

Dù vậy, vốn đầu tư và công bố kiến trúc không đồng nghĩa với vị thế tương đương trên thị trường. Trường hợp của Cornelis và Qualcomm sẽ phụ thuộc vào việc đưa CN6000 và CN7000 ra thị trường, hỗ trợ phần mềm, khả năng tương tác, nguồn cung và kết quả vận hành có thể tái lập trong môi trường sản xuất. Hiện tại, hợp tác này nên được hiểu là một đặt cược rằng mạng tốt hơn có thể nâng mức sử dụng hạ tầng AI — và khách hàng sẽ coi trọng một lựa chọn mở không kém hiệu năng đỉnh cao.