CPU Vera của Nvidia và tham vọng chiếm thị trường 200 tỷ USD cho AI agent

Trong nhiều năm, Nvidia gần như thống trị GPU dùng cho huấn luyện và suy luận AI. Nhưng CPU vẫn là thành phần điều khiển toàn bộ hệ thống máy chủ. Nếu Nvidia kiểm soát cả hai lớp này, hãng có thể bán toàn bộ hạ tầng AI, không chỉ bộ tăng tốc.

Tầm nhìn này gắn với khái niệm “AI factory” của Nvidia — các trung tâm dữ liệu chuyên sản xuất đầu ra AI ở quy mô lớn. Trong kiến trúc đó:

• GPU xử lý tính toán nặng
• CPU điều phối phần mềm và luồng dữ liệu

Cần lưu ý rằng con số 200 tỷ USD là ước tính chiến lược của Nvidia, chưa phải dự báo độc lập từ toàn ngành. Nó phản ánh niềm tin của công ty rằng dịch vụ AI dựa trên agent sẽ làm bùng nổ nhu cầu hạ tầng tính toán.

Vì sao AI agent cần loại CPU khác

CPU trong đám mây truyền thống được thiết kế cho các tác vụ máy chủ phổ biến như web, cơ sở dữ liệu hoặc ảo hóa. Nhưng Nvidia cho rằng AI agent có mô hình hoạt động rất khác.

Một agent AI không chỉ trả lời câu hỏi từ mô hình. Nó thường phải:

• truy xuất dữ liệu từ nguồn bên ngoài
• gọi công cụ hoặc API
• chạy code trong môi trường sandbox
• phối hợp nhiều lần gọi mô hình
• quản lý bộ nhớ và workflow

Những bước này xảy ra ngoài mạng neural, nhưng vẫn cần chạy cực nhanh để GPU luôn có việc làm. Vera được thiết kế chính xác cho lớp điều phối này.

Theo Nvidia, CPU này được tối ưu cho reinforcement learning và môi trường agentic AI, có thể đạt khoảng hiệu quả gấp đôi và nhanh hơn khoảng 50% so với CPU rack-scale truyền thống trong các kịch bản mục tiêu.

Về kiến trúc, Vera sử dụng 88 lõi CPU “Olympus” tương thích Arm do Nvidia tự thiết kế, đi kèm băng thông bộ nhớ cao để phục vụ hệ thống AI quy mô lớn.

Vera hoạt động cùng GPU Rubin như thế nào

Vera không thay thế GPU. Thay vào đó, nó đóng vai trò bộ điều khiển trung tâm trong hệ thống AI.

Trong nền tảng Vera Rubin sắp tới của Nvidia, nhiều loại chip được tích hợp chặt chẽ trong một hệ thống rack-scale. Các thành phần chính gồm:

• CPU Vera
• GPU Rubin
• switch kết nối NVLink 6
• mạng ConnectX‑9
• DPU BlueField‑4
• Ethernet Spectrum‑6

Tất cả tạo thành một hệ thống thống nhất dành cho dịch vụ AI quy mô lớn.

Ví dụ, cấu hình Vera Rubin NVL72 tích hợp:

• 72 GPU Rubin
• 36 CPU Vera

Tất cả được kết nối bằng mạng NVLink băng thông cao.

Trong hệ thống này, CPU chịu trách nhiệm:

• điều phối workflow AI
• quản lý bộ nhớ và di chuyển dữ liệu
• phân phối tác vụ cho GPU
• chạy môi trường phần mềm và công cụ của agent

Nói cách khác, CPU giúp giữ GPU luôn hoạt động hết công suất, điều rất quan trọng khi mỗi GPU AI có giá hàng chục nghìn USD.

Vai trò của CPU khi AI agent tăng lên hàng tỷ

Lập luận của Nvidia dựa trên sự thay đổi cách ứng dụng AI vận hành.

Các hệ thống AI tạo sinh ban đầu chủ yếu xử lý prompt rồi trả về văn bản. Nhưng AI agent thực hiện chuỗi hành động nhiều bước, khiến nhu cầu điều phối tính toán tăng mạnh.

Một số nhà phân tích cho rằng lượng tính toán cần thiết cho agentic AI có thể cao hơn nhiều lần so với AI tạo sinh truyền thống, vì agent liên tục gọi mô hình, công cụ và cơ sở dữ liệu trong một nhiệm vụ.

Trong bối cảnh đó, CPU trở thành “control plane” của hạ tầng AI — chịu trách nhiệm lập lịch tác vụ, xử lý I/O, quản lý môi trường code và phối hợp hàng nghìn GPU.

Nếu trong tương lai có hàng tỷ AI agent chạy liên tục trên dịch vụ đám mây, lớp CPU này có thể chiếm một phần đáng kể trong thị trường hạ tầng AI.

Chiến lược của Nvidia trước Intel, AMD và các hãng cloud

Việc ra mắt Vera cũng cho thấy Nvidia đang tiến sâu hơn vào thị trường CPU máy chủ.

Trước đây:

• Intel và AMD thống trị CPU trung tâm dữ liệu
• các hyperscaler như AWS hoặc Google ngày càng tự thiết kế chip riêng

Chiến lược của Nvidia khác biệt: thay vì bán linh kiện rời, hãng muốn cung cấp hệ thống AI tích hợp hoàn chỉnh.

Kiến trúc Vera Rubin thể hiện rõ cách tiếp cận này. Nvidia đồng thiết kế CPU, GPU, mạng và phần mềm để hoạt động như một nền tảng tính toán duy nhất tối ưu cho AI.

Công ty cho rằng mô hình tích hợp này có thể mang lại:

• chi phí mỗi token AI thấp hơn
• hiệu năng cao hơn cho dịch vụ AI quy mô lớn

Dù vậy, cuộc cạnh tranh vẫn rất khốc liệt. Các nhà cung cấp cloud lớn có động lực mạnh để phát triển chip riêng nhằm giảm phụ thuộc vào Nvidia. Nhưng Nvidia đặt cược rằng hệ sinh thái hạ tầng AI tích hợp từ GPU, CPU đến mạng và phần mềm sẽ khó bị sao chép nhanh chóng.

Sự chuyển mình lớn của Nvidia

CPU Vera phản ánh một thay đổi lớn trong chiến lược của Nvidia.

Thay vì chỉ là công ty GPU, Nvidia ngày càng định vị mình như nhà cung cấp nền tảng hạ tầng AI toàn diện — từ chip tính toán, mạng, cho đến hệ thống rack hoàn chỉnh.

Nếu dự đoán của Jensen Huang về sự bùng nổ của AI agent trở thành hiện thực, các CPU như Vera có thể trở thành một phần trung tâm của kỷ nguyên hạ tầng AI mới, biến thị trường từng xoay quanh GPU thành một hệ sinh thái lớn hơn nhiều.